1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[grande fanfare orchestrale
jouer]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[les oiseaux gazouillent et crient]

6
00:00:48,657 --> 00:00:50,833
-[bourdonnement]
-[trille]

7
00:00:55,055 --> 00:00:57,057
[Clic et vrombissement du magnétoscope]

8
00:01:00,582 --> 00:01:02,018
[clic du projecteur]

9
00:01:04,847 --> 00:01:09,286
Maintenant, les ordinateurs actuels
sont des abrutis complets,

10
00:01:09,330 --> 00:01:12,115
mais ce ne sera pas vrai
dans une autre génération.

11
00:01:12,159 --> 00:01:14,857
Ils commenceront à réfléchir,
et finalement ils le feront

12
00:01:14,900 --> 00:01:17,599
complètement dépassé
leurs créateurs.

13
00:01:17,642 --> 00:01:20,254
Est-ce déprimant ?
Je ne vois pas pourquoi cela devrait être le cas.

14
00:01:20,297 --> 00:01:24,823
Je soupçonne que le bio
ou évolution biologique

15
00:01:24,867 --> 00:01:26,303
est sur le point de toucher à sa fin.

16
00:01:27,739 --> 00:01:29,524
[Daniel rit]

17
00:01:29,567 --> 00:01:30,655
CAROLINE : Tu ne veux pas de moi
être le narrateur.

18
00:01:30,699 --> 00:01:32,353
Je n'ai pas une bonne voix.

19
00:01:32,396 --> 00:01:34,006
DANIEL : Vous avez une superbe voix.
Fais-le c'est tout.

20
00:01:34,050 --> 00:01:36,183
C'est juste un...
nous sommes juste en train de l'essayer.

21
00:01:36,226 --> 00:01:37,967
CAROLINE :
Est-ce que je suis payé pour cette merde ?

22
00:01:38,010 --> 00:01:40,230
DANIEL [riant] : Eh bien,
nous verrons si vous vous en sortez bien.

23
00:01:40,274 --> 00:01:41,579
[Caroline rit]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[le chien aboie]

25
00:01:46,454 --> 00:01:47,890
CAROLINE :
Je dois appeler mes parents.

26
00:01:47,933 --> 00:01:49,065
[le moteur démarre]

27
00:01:49,109 --> 00:01:51,023
Parfois nous nous précipitons dans les choses

28
00:01:51,067 --> 00:01:52,851
sans y réfléchir.

29
00:01:52,895 --> 00:01:54,723
DANIEL : Ouais, peux-tu dire...
tu veux tirer ? C'est...

30
00:01:54,766 --> 00:01:57,204
CAROLINE : Comme quand Daniel
et Caroline s'est mariée

31
00:01:57,247 --> 00:02:00,163
151 jours après leur rencontre.

32
00:02:00,207 --> 00:02:01,817
Revenons en arrière.

33
00:02:03,079 --> 00:02:04,776
[applaudissements]

34
00:02:04,820 --> 00:02:07,170
Avez-vous pensé à
acheter un ordinateur personnel ?

35
00:02:07,214 --> 00:02:09,303
CAROLINE :
En 1993, à la naissance de Daniel,

36
00:02:09,346 --> 00:02:12,132
ses parents n'avaient même pas
un ordinateur dans la maison.

37
00:02:12,175 --> 00:02:13,785
Mais il se souvient
quand ils en ont finalement eu un.

38
00:02:13,829 --> 00:02:15,700
Ce qu'est un ordinateur pour moi, c'est

39
00:02:15,744 --> 00:02:18,355
l'équivalent d'un vélo
pour notre esprit.

40
00:02:18,399 --> 00:02:20,227
Bonjour.

41
00:02:20,270 --> 00:02:22,185
CAROLINE : Son ordinateur m'a aidé
libérer sa créativité.

42
00:02:22,229 --> 00:02:23,926
DANIEL :
Rouler. Aller.

43
00:02:23,969 --> 00:02:26,581
CAROLINE : Il a utilisé
l'iMac de son père pour éditer des vidéos.

44
00:02:26,624 --> 00:02:28,322
Ouais!

45
00:02:28,365 --> 00:02:29,932
CAROLINE : Et même faire
petites animations.

46
00:02:29,975 --> 00:02:31,934
[les pneus crissent, crash]

47
00:02:31,977 --> 00:02:35,067
En 1998, lorsque Caroline était
une petite fille...

48
00:02:35,111 --> 00:02:36,721
Salut, maman.

49
00:02:36,765 --> 00:02:38,158
...seuls les nerds le savaient
ce qu'était Internet.

50
00:02:38,201 --> 00:02:39,811
Et qu'en est-il
ce truc d'Internet ?

51
00:02:39,855 --> 00:02:41,335
-Est-ce que tu sais quelque chose
à propos de ça ? -Bien sûr.

52
00:02:41,378 --> 00:02:42,771
--[rires du public]
-CAROLINE : Mais bientôt,

53
00:02:42,814 --> 00:02:44,903
-tout le monde était sur...
-...Internet.

54
00:02:44,947 --> 00:02:46,992
...et les ordinateurs étaient
battre des humains aux échecs.

55
00:02:47,036 --> 00:02:49,995
ANNONCEUR : Deep Blue...
Kasparov a démissionné !

56
00:02:50,039 --> 00:02:52,607
CAROLINE : Et au moment où
Caroline est allée à l'université,

57
00:02:52,650 --> 00:02:55,087
les ordinateurs étaient
dans la poche de tout le monde.

58
00:02:55,131 --> 00:02:58,395
Maintenant Daniel pourrait faire des films
avec son téléphone.

59
00:02:58,439 --> 00:03:01,485
Il a grandi pour devenir un artiste
et un cinéaste...

60
00:03:01,529 --> 00:03:03,922
-Bonne nuit.
-...et Caroline aussi.

61
00:03:03,966 --> 00:03:05,707
Couper. Passons à un gros plan.
C'était parfait.

62
00:03:05,750 --> 00:03:07,274
À cette époque, les ordinateurs étaient
connecter les gens

63
00:03:07,317 --> 00:03:08,971
et changer le monde de manière

64
00:03:09,014 --> 00:03:10,668
que nous n'avons jamais
aurait pu imaginer.

65
00:03:10,712 --> 00:03:12,322
Tout l'argent récolté par
le défi du seau à glace...

66
00:03:12,366 --> 00:03:14,194
CAROLINE :
Une partie était bonne.

67
00:03:14,237 --> 00:03:15,499
[haletant]

68
00:03:15,543 --> 00:03:17,109
Certains ne sont pas très bons.

69
00:03:17,153 --> 00:03:19,286
Anxiété, automutilation, suicide...

70
00:03:19,329 --> 00:03:21,201
Mais c'est clair maintenant
que nous n'en avons pas fait assez

71
00:03:21,244 --> 00:03:24,552
pour empêcher ces outils de
être également utilisé pour nuire.

72
00:03:24,595 --> 00:03:26,380
CAROLINE : Et comme le monde
je suis de plus en plus concentré

73
00:03:26,423 --> 00:03:28,033
-sur leurs ordinateurs,
-[coups de téléphone]

74
00:03:28,077 --> 00:03:30,210
Daniel s'est concentré sur ses œuvres.

75
00:03:32,037 --> 00:03:35,606
Partout où il allait,
il avait toujours un carnet de croquis,

76
00:03:35,650 --> 00:03:38,392
y compris la nuit
il a rencontré Caroline.

77
00:03:38,435 --> 00:03:41,656
Il a dessiné un tableau terrible
d'elle, et 20 minutes plus tard,

78
00:03:41,699 --> 00:03:44,136
il a hardiment prononcé
ils allaient se marier,

79
00:03:44,180 --> 00:03:47,575
ce qu'ils ont fait, comme vous le savez,
151 jours plus tard.

80
00:03:47,618 --> 00:03:49,925
FEMME : ...maintenant, prononcez-vous
mari et femme.

81
00:03:49,968 --> 00:03:51,666
CAROLINE :
Ils ont emménagé dans une jolie maison...

82
00:03:51,709 --> 00:03:52,841
-DANIEL : Orignal, hé ! Venez ici!
-...et j'ai un chien

83
00:03:52,884 --> 00:03:54,669
aussi stupide que Daniel.

84
00:03:54,712 --> 00:03:57,280
Pendant ce temps, les ordinateurs étaient
écrire des essais entiers

85
00:03:57,324 --> 00:03:59,326
basé sur des questions simples comme,

86
00:03:59,369 --> 00:04:03,155
"Comme il serait difficile de construire
une cabane dans mon jardin ? »

87
00:04:03,199 --> 00:04:07,072
Et donc Daniel a construit une cabane
dans son jardin.

88
00:04:07,116 --> 00:04:09,945
Mais juste au moment où il s'asseyait pour commencer
travaille sur son prochain film,

89
00:04:09,988 --> 00:04:13,644
il a appris que les ordinateurs
pouvait désormais écrire des scénarios.

90
00:04:14,863 --> 00:04:16,560
Je veux dire, ils étaient mauvais,

91
00:04:16,604 --> 00:04:18,954
mais ils allaient mieux
très vite.

92
00:04:18,997 --> 00:04:21,652
Ils pourraient créer de nouvelles images
et des vidéos à partir de zéro,

93
00:04:21,696 --> 00:04:24,786
et certains d'entre eux
pourrait même réussir l'examen du barreau.

94
00:04:24,829 --> 00:04:28,833
Pas seulement passer la barre mais
être dans les dix premiers centiles.

95
00:04:28,877 --> 00:04:30,531
CAROLINE :
C'était déroutant.

96
00:04:30,574 --> 00:04:32,141
[soupirs]

97
00:04:32,184 --> 00:04:35,057
Daniel voulait juste
un vélo pour son esprit,

98
00:04:35,100 --> 00:04:38,626
mais les ordinateurs étaient devenus
une fusée autonome.

99
00:04:38,669 --> 00:04:40,236
[hurlement]

100
00:04:40,280 --> 00:04:41,977
["Nous avons le contrôle"
par Neil Young jouant]

101
00:04:42,020 --> 00:04:44,762
Pionniers dans le domaine
de l'intelligence artificielle

102
00:04:44,806 --> 00:04:46,503
plaident auprès du Congrès

103
00:04:46,547 --> 00:04:48,505
passer les règles de sécurité
avant qu'il ne soit trop tard.

104
00:04:48,549 --> 00:04:50,551
CAROLINE : Maintenant, c'était comme si
le monde entier

105
00:04:50,594 --> 00:04:52,988
je me précipitais dans quelque chose
sans y réfléchir,

106
00:04:53,031 --> 00:04:56,339
et tout le monde avait une opinion.

107
00:04:56,383 --> 00:05:00,125
Est-ce que ça allait détruire le monde
ou sauver l'humanité ?

108
00:05:00,169 --> 00:05:02,389
Il y avait trop d'informations,

109
00:05:02,432 --> 00:05:04,652
ce qui le rendait anxieux,
ce qui a rendu Caroline anxieuse...

110
00:05:04,695 --> 00:05:06,001
[cri exaspéré]

111
00:05:06,044 --> 00:05:07,785
Je n'ai pas encore d'enfants,
mais je m'inquiète

112
00:05:07,829 --> 00:05:10,179
à quoi ressemblerait le monde
si je le décide. [rires]

113
00:05:10,222 --> 00:05:12,355
CAROLINE :
Il commençait à s'énerver.

114
00:05:12,399 --> 00:05:14,052
[bavardage indistinct]

115
00:05:14,096 --> 00:05:16,925
Cela devenait
une montagne d'anxiété.

116
00:05:19,144 --> 00:05:21,364
-HOMME : C'est horrible.
-C'est vraiment Siri.

117
00:05:22,670 --> 00:05:25,586
CAROLINE :
Alors Daniel a décidé de sortir

118
00:05:25,629 --> 00:05:27,979
et trouver quelqu'un
qui pourrait lui expliquer ça,

119
00:05:28,023 --> 00:05:30,155
pour qu'il puisse arrêter
en y réfléchissant

120
00:05:30,199 --> 00:05:33,463
et lui et Caroline pourraient
continuer leur vie.

121
00:05:33,507 --> 00:05:36,814
♪ Nous avons le contrôle,
nous avons le contrôle ♪

122
00:05:36,858 --> 00:05:38,729
♪ Nous avons le contrôle ♪

123
00:05:38,773 --> 00:05:40,514
♪ Ordinateur chimique
je pense à la batterie ♪

124
00:05:40,557 --> 00:05:42,559
♪ Nous avons le contrôle, nous sommes... ♪

125
00:05:42,603 --> 00:05:45,693
Cet effort se révélerait
être désespérément naïf

126
00:05:45,736 --> 00:05:49,044
et lancez le plus déroutant
année de sa vie.

127
00:05:49,087 --> 00:05:50,698
♪ Nous avons le contrôle... ♪

128
00:05:50,741 --> 00:05:52,787
Mais comme nous le savons,
on se précipite parfois dans les choses

129
00:05:52,830 --> 00:05:54,615
sans y réfléchir.

130
00:05:54,658 --> 00:05:56,356
♪ Ordinateur chimique
je pense à la batterie... ♪

131
00:05:56,399 --> 00:05:57,922
Oh, mon Dieu. Ce qui se passe?

132
00:05:57,966 --> 00:05:59,924
CAROLINE :
Il avait des questions.

133
00:05:59,968 --> 00:06:01,578
Interroge uniquement le
les nerds les plus intelligents pourraient répondre.

134
00:06:01,622 --> 00:06:04,146
Se soumettre à l'interrogateur.

135
00:06:04,189 --> 00:06:06,017
CAROLINE :
Des questions comme :

136
00:06:06,061 --> 00:06:08,585
Était-ce l'apocalypse
ou avait-il réellement une raison

137
00:06:08,629 --> 00:06:11,109
-être optimiste ?
-Oui.

138
00:06:11,153 --> 00:06:13,764
-♪ Pensée informatique chimique
batterie. ♪ -[fin de la chanson]

139
00:06:13,808 --> 00:06:16,158
CAROLINE :
Euh, c'est bon ?

140
00:06:16,201 --> 00:06:17,594
DANIEL :
Ouais.

141
00:06:17,638 --> 00:06:20,162
Alors, pour commencer,

142
00:06:20,205 --> 00:06:22,120
qu'est-ce que l'intelligence artificielle ?

143
00:06:22,164 --> 00:06:24,688
Je sais que ça doit être ennuyeux
pour toi, cette-cette question,

144
00:06:24,732 --> 00:06:26,473
mais je pense que c'est important.

145
00:06:26,516 --> 00:06:29,780
Alors... l'IA...

146
00:06:29,824 --> 00:06:31,826
[bégaie] Euh...

147
00:06:31,869 --> 00:06:33,654
-Ouais...
-Euh, hum.

148
00:06:33,697 --> 00:06:34,742
[rires] :
C'est une bonne question.

149
00:06:34,785 --> 00:06:36,178
-Ouais, euh...
-Euh...

150
00:06:36,221 --> 00:06:37,658
DANIEL :
Qu’est-ce que l’IA ?

151
00:06:37,701 --> 00:06:39,094
[rires]

152
00:06:39,137 --> 00:06:40,748
J'adore ça, c'est
la première question,

153
00:06:40,791 --> 00:06:43,141
parce qu'il n'y a pas
une réponse claire et cohérente.

154
00:06:43,185 --> 00:06:45,274
L'intelligence artificielle est

155
00:06:45,317 --> 00:06:50,714
une sorte d'intentionnellement
et peut-être un terme inutilement large.

156
00:06:50,758 --> 00:06:53,325
DAVID EVAN HARRIS :
C'est une machine

157
00:06:53,369 --> 00:06:55,545
faire des choses qui
nous pensions auparavant seulement

158
00:06:55,589 --> 00:06:57,242
que les gens pourraient faire :

159
00:06:57,286 --> 00:07:01,116
faire des recommandations,
décisions et prédictions.

160
00:07:01,159 --> 00:07:06,774
L'IA est, euh, l'application
de l'informatique

161
00:07:06,817 --> 00:07:09,124
à résoudre des problèmes cognitifs.

162
00:07:09,167 --> 00:07:13,302
OK, alors quand j'imagine l'IA,

163
00:07:13,345 --> 00:07:16,740
c'est un peu comme
cette boîte informatique magique...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
... juste, comme, flottant
dans un espace inerte.

166
00:07:24,139 --> 00:07:26,446
Et peu importe
combien de fois les gens essaient

167
00:07:26,489 --> 00:07:29,710
et explique-moi ça,
Je ne comprends tout simplement pas comment...

168
00:07:29,753 --> 00:07:32,495
comment ça se comprend
toutes ces choses

169
00:07:32,539 --> 00:07:35,672
et comment ça se sent
renseignement.

170
00:07:35,716 --> 00:07:37,152
[bip, bavardage électronique]

171
00:07:37,195 --> 00:07:39,241
Et c'est un peu
angoissant.

172
00:07:41,243 --> 00:07:45,552
AZA RASKIN : Qu’est-ce que
cette nouvelle génération d’IA ?

173
00:07:47,205 --> 00:07:50,078
Cette IA différente de
une génération sur deux ?

174
00:07:50,121 --> 00:07:52,733
Genre, personne n'a jamais
parlé, comme,

175
00:07:52,776 --> 00:07:56,911
Siri conquiert le monde
ou provoquer des catastrophes.

176
00:07:56,954 --> 00:07:58,478
-FEMME : Salut, Siri ?
-HOMME : ... je veux.

177
00:07:58,521 --> 00:08:00,523
FEMME :
Bonjour ? Siri ?

178
00:08:00,567 --> 00:08:02,569
Bonjour? Hé, Siri !

179
00:08:02,612 --> 00:08:05,746
Ou la voix dans Google Maps,
qui prononce mal les noms de routes,

180
00:08:05,789 --> 00:08:07,487
comme briser la société.

181
00:08:07,530 --> 00:08:10,620
HOMME : Google Maps dit
c'est une route.

182
00:08:10,664 --> 00:08:13,057
[rire] :
Mais je pense que je suis dans une rivière.

183
00:08:13,101 --> 00:08:14,624
C'est définitivement une rivière,
n'est-ce pas ?

184
00:08:14,668 --> 00:08:17,192
Quelque chose a changé
avec la sortie de ChatGPT.

185
00:08:18,193 --> 00:08:19,934
Les gens ont compris... non, non, non...

186
00:08:19,977 --> 00:08:21,457
cette technologie
incroyablement précieux,

187
00:08:21,501 --> 00:08:23,633
c'est incroyablement puissant
et aussi incroyablement effrayant.

188
00:08:23,677 --> 00:08:25,548
D'accord, écoute ça.
Très effrayant.

189
00:08:25,592 --> 00:08:28,595
Une nouvelle intelligence artificielle
l'outil devient viral

190
00:08:28,638 --> 00:08:32,294
pour rédiger des essais entiers
en quelques secondes.

191
00:08:35,950 --> 00:08:41,172
L’IA éclipse le pouvoir de tous
d'autres technologies combinées.

192
00:08:41,216 --> 00:08:43,697
DANIEL :
"L'IA éclipse la puissance

193
00:08:43,740 --> 00:08:46,047
de toutes les autres technologies
combinés."

194
00:08:46,090 --> 00:08:47,222
Ouais.

195
00:08:47,265 --> 00:08:48,702
Pensez-vous que c'est vrai ?

196
00:08:48,745 --> 00:08:50,747
Oui.

197
00:08:50,791 --> 00:08:53,184
Parlez-moi de... Comment ? Comment?

198
00:08:53,228 --> 00:08:56,710
Je pense que pour peindre ce tableau,
c'est vraiment important

199
00:08:56,753 --> 00:09:00,627
pour comprendre ce qui se passe aujourd'hui
systèmes de pointe

200
00:09:00,670 --> 00:09:02,150
à quoi ils ressemblent et comment ils sont construits.

201
00:09:02,193 --> 00:09:05,762
[rires] C'est
une sacrée... une sacrée configuration.

202
00:09:05,806 --> 00:09:07,242
Alors, une chose que

203
00:09:07,285 --> 00:09:09,679
pas beaucoup de monde
réaliser c'est que

204
00:09:09,723 --> 00:09:13,683
les systèmes comme ChatGPT ne le sont pas
programmé par n’importe quel humain.

205
00:09:13,727 --> 00:09:15,206
Que veux-tu dire?

206
00:09:15,250 --> 00:09:16,991
Au lieu de cela, c'est quelque chose comme
ils ont grandi.

207
00:09:17,034 --> 00:09:19,167
Nous leur donnons en quelque sorte
des ressources brutes, comme,

208
00:09:19,210 --> 00:09:20,995
"Voici beaucoup de
ressources informatiques.

209
00:09:21,038 --> 00:09:22,170
Voici beaucoup de données.

210
00:09:22,213 --> 00:09:23,867
Sous le capot, c'est des maths,

211
00:09:23,911 --> 00:09:27,305
et le calcul est en fait
étonnamment simple.

212
00:09:27,349 --> 00:09:31,092
DANIEL : ChatGPT est donc une sorte
de l'IA mais ce n'est pas que de l'IA ?

213
00:09:31,135 --> 00:09:32,659
Totalement. ChatGPT est
juste le début,

214
00:09:32,702 --> 00:09:34,095
mais c'est un bon point de départ.

215
00:09:34,138 --> 00:09:37,794
Mais je ne sais toujours pas
ce qu'est l'IA.

216
00:09:37,838 --> 00:09:40,362
Pour comprendre l'IA,
ça commence par comprendre

217
00:09:40,405 --> 00:09:43,147
que l'intelligence concerne
reconnaître des modèles.

218
00:09:43,191 --> 00:09:44,845
-Motifs. -Motifs.
-Motifs.

219
00:09:44,888 --> 00:09:48,544
COTRA : Il est montré
des milliards de mots de texte

220
00:09:48,588 --> 00:09:51,286
à travers des millions de documents
sur Internet.

221
00:09:51,329 --> 00:09:52,766
RANDIMA FERNANDO :
Tout a commencé par un texte.

222
00:09:52,809 --> 00:09:55,899
Et ce qu'ils ont fait, c'est
ils ont pris des manuels,

223
00:09:55,943 --> 00:09:59,511
et ils ont pris des poèmes et des essais
et manuels d'instructions.

224
00:09:59,555 --> 00:10:00,861
DAVID EVAN HARRIS :
Ils peuvent faire des choses comme

225
00:10:00,904 --> 00:10:03,124
digérer tout Internet,

226
00:10:03,167 --> 00:10:06,736
chaque mot qui est jamais
été écrit par une personne.

227
00:10:06,780 --> 00:10:09,957
Fils de discussion Reddit et réseaux sociaux
et tout Wikipédia.

228
00:10:10,000 --> 00:10:13,613
Plus de données que quiconque
jamais lu au cours de plusieurs vies.

229
00:10:13,656 --> 00:10:15,484
Et ils ont donné ce système
un travail.

230
00:10:15,527 --> 00:10:18,487
Déterminez les modèles et
structure de ces informations

231
00:10:18,530 --> 00:10:20,750
et utilise ça
faire des prédictions sur

232
00:10:20,794 --> 00:10:23,231
quel mot devrait venir ensuite
dans une phrase.

233
00:10:23,274 --> 00:10:24,972
Quand tu dis
"modèles dans une phrase",

234
00:10:25,015 --> 00:10:26,756
de quoi tu parles ?

235
00:10:26,800 --> 00:10:29,367
Donc, tout vient de, genre,
les choses vraiment simples,

236
00:10:29,411 --> 00:10:31,979
comme la plupart des phrases se terminent
avec un point,

237
00:10:32,022 --> 00:10:34,895
tout le chemin jusqu'au
des choses plus conceptuelles, comme :

238
00:10:34,938 --> 00:10:36,766
Qu'est-ce qu'un sonnet ?

239
00:10:36,810 --> 00:10:38,333
C'est une sorte de poème, et il a
une structure particulière.

240
00:10:39,421 --> 00:10:41,249
RASKIN :
Donc, il regarde alors

241
00:10:41,292 --> 00:10:43,599
toutes ces données,
tout ce texte...

242
00:10:43,643 --> 00:10:46,036
COTRA : Et plus de milliards
et des milliards d'essais,

243
00:10:46,080 --> 00:10:48,778
à chaque fois ça rapporte quelque chose
bien ou mal,

244
00:10:48,822 --> 00:10:51,259
c'est un peu donné
de renforcement positif

245
00:10:51,302 --> 00:10:53,391
quand il devine
le mot suivant correctement,

246
00:10:53,435 --> 00:10:55,698
et c'est donné un petit peu
de renforcement négatif

247
00:10:55,742 --> 00:10:59,354
quand il devine
le mot suivant de manière incorrecte.

248
00:10:59,397 --> 00:11:01,573
Et à la fin,
vous avez un système qui

249
00:11:01,617 --> 00:11:05,055
parle très bien anglais
comme effet secondaire

250
00:11:05,099 --> 00:11:06,796
d'être vraiment, vraiment bon
à prédire

251
00:11:06,840 --> 00:11:09,059
le mot qui vient ensuite
dans un morceau de texte.

252
00:11:09,103 --> 00:11:12,019
VOIX AUTOMATISÉE :
En fait, mon français
ce n'est pas trop mal non plus.

253
00:11:12,062 --> 00:11:14,021
[en anglais] : Il utilise tous les
ces modèles qu'il a appris

254
00:11:14,064 --> 00:11:15,675
pouvoir faire
une prédiction sur

255
00:11:15,718 --> 00:11:17,241
quelle devrait être la réponse,

256
00:11:17,285 --> 00:11:18,808
alors ça te donne ça
comme sortie.

257
00:11:18,852 --> 00:11:21,028
VOIX AUTOMATISÉE :
C'est un peu trop simpliste,

258
00:11:21,071 --> 00:11:23,073
mais je pense que les gens comprendront.

259
00:11:23,117 --> 00:11:24,945
Alors, c'est tout ce qu'il fait ?

260
00:11:24,988 --> 00:11:26,816
Ouais. Il ne semble pas
ce serait si compliqué,

261
00:11:26,860 --> 00:11:28,035
mais en fait il faut savoir

262
00:11:28,078 --> 00:11:29,645
une énorme quantité de choses

263
00:11:29,689 --> 00:11:31,386
afin de
j’y parviens réellement.

264
00:11:32,517 --> 00:11:34,258
RASKIN :
Si vous dites à ChatGPT,

265
00:11:34,302 --> 00:11:36,696
"Écris-moi un shakespearien
sonnet sur mon chien,"

266
00:11:36,739 --> 00:11:38,785
il doit savoir ce que sont les chiens.

267
00:11:38,828 --> 00:11:40,438
-Il faut savoir ce que tu aimes
à propos de votre chien.-[aboiement]

268
00:11:40,482 --> 00:11:43,006
Il faut savoir
qui est Shakespeare,

269
00:11:43,050 --> 00:11:45,574
que les sonnets riment,
qu'ils ont une structure,

270
00:11:45,617 --> 00:11:47,750
que les mots ont des sons
ça peut rimer.

271
00:11:47,794 --> 00:11:49,273
Il en faut beaucoup.

272
00:11:49,317 --> 00:11:50,884
[les voix se chevauchent
en plusieurs langues]

273
00:11:50,927 --> 00:11:52,929
Putain de merde, tu peux parler
sur votre ordinateur maintenant.

274
00:11:52,973 --> 00:11:56,063
Ce n'était tout simplement pas vrai
il y a trois ans.

275
00:11:56,106 --> 00:11:57,629
RASKIN : Oui, et c'est
la partie vraiment importante.

276
00:11:57,673 --> 00:12:00,589
Le même processus qui permet à l'IA

277
00:12:00,632 --> 00:12:03,157
découvrir et manipuler
les modèles de texte

278
00:12:03,200 --> 00:12:05,768
c'est le même processus
cela lui permet de découvrir

279
00:12:05,812 --> 00:12:10,512
les modèles de l'ensemble
l'univers et tout ce qu'il contient.

280
00:12:10,555 --> 00:12:12,862
FERNANDO : Il y a des modèles
et des images et du son

281
00:12:12,906 --> 00:12:15,952
dans le code informatique et l'ADN
et la musique et la physique

282
00:12:15,996 --> 00:12:18,476
et la mode et le design de bâtiments

283
00:12:18,520 --> 00:12:21,566
[déformé] : et dans
des voix humaines et des visages humains,

284
00:12:21,610 --> 00:12:23,917
[normalement] :
vraiment, vraiment partout.

285
00:12:23,960 --> 00:12:26,006
-Partout. -Partout.
-Partout. -Partout.

286
00:12:26,049 --> 00:12:27,747
Si tu as appris
ces modèles,

287
00:12:27,790 --> 00:12:29,661
vous pouvez générer
de nouveaux genres de chansons.

288
00:12:29,705 --> 00:12:31,141
Vous pouvez générer de nouvelles vidéos.

289
00:12:31,185 --> 00:12:32,621
Et c'est pourquoi, si tu le donnes

290
00:12:32,664 --> 00:12:34,710
un enregistrement de trois secondes
de ta grand-mère,

291
00:12:34,754 --> 00:12:36,538
cela peut répondre dans sa voix.

292
00:12:36,581 --> 00:12:37,931
Oh mon Dieu.

293
00:12:37,974 --> 00:12:40,585
[répétant]:
Oh, mon Dieu. Oh mon Dieu.

294
00:12:40,629 --> 00:12:42,849
À quoi penseront-ils ensuite ?

295
00:12:42,892 --> 00:12:44,024
Cela avance très, très vite.

296
00:12:44,067 --> 00:12:45,808
Une start-up américaine d'IA

297
00:12:45,852 --> 00:12:47,592
a sorti son dernier modèle.

298
00:12:47,636 --> 00:12:50,770
Cette entreprise est Anthropic,
et il vient de se dévoiler

299
00:12:50,813 --> 00:12:53,773
les dernières versions
de son assistant IA Claude.

300
00:12:53,816 --> 00:12:57,167
GLENN BECK : Donc, l'équipe xAI
était là pour dévoiler Grok 4.

301
00:12:57,211 --> 00:13:00,127
MAN : Google en a publié un
juste la semaine dernière. Les Gémeaux sont...

302
00:13:00,170 --> 00:13:02,999
Nous sommes passés de GPT-2
il y a seulement quelques années,

303
00:13:03,043 --> 00:13:05,523
qui pouvait à peine écrire
un paragraphe cohérent,

304
00:13:05,567 --> 00:13:07,961
à GPT-4,
qui peut réussir l'examen du barreau.

305
00:13:08,004 --> 00:13:10,354
Et tout ce qu'ils avaient à faire
pour y arriver

306
00:13:10,398 --> 00:13:12,966
c'était essentiellement ajouter plus de données
et plus de calcul.

307
00:13:13,009 --> 00:13:16,273
-Ces gens qui sont
construire ça... -COTRA : Ouais.

308
00:13:16,317 --> 00:13:18,014
... ils en jettent juste plus...

309
00:13:18,058 --> 00:13:21,801
Plus d'ordinateurs physiques,
plusieurs des mêmes types de données.

310
00:13:21,844 --> 00:13:24,542
Parce que plus
la puissance de calcul que vous ajoutez,

311
00:13:24,586 --> 00:13:28,024
plus c'est complexe
tâches intellectuelles qu'ils peuvent accomplir.

312
00:13:28,068 --> 00:13:30,157
Donc, plus il y a de données météorologiques
tu le donnes,

313
00:13:30,200 --> 00:13:31,898
mieux ça peut
faire des prédictions sur

314
00:13:31,941 --> 00:13:34,204
où un ouragan pourrait aller.

315
00:13:34,248 --> 00:13:36,337
RASKIN : Et plus de modèles
des tumeurs et des os

316
00:13:36,380 --> 00:13:38,861
et les tissus qu'une IA a vus,
alors mieux c'est

317
00:13:38,905 --> 00:13:41,951
détecter une tumeur
dans un nouveau scanner.

318
00:13:41,995 --> 00:13:43,648
Mieux encore qu'un médecin humain.

319
00:13:43,692 --> 00:13:46,956
Une IA qui existe déjà
déployé pour l'armée

320
00:13:47,000 --> 00:13:49,132
peut déjà utiliser
l'imagerie satellitaire,

321
00:13:49,176 --> 00:13:51,787
mouvements de troupes, communications
pour déterminer,

322
00:13:51,831 --> 00:13:53,354
-parfois plusieurs jours à l'avance,
-[sirène de la défense civile hurlante]

323
00:13:53,397 --> 00:13:55,008
où une attaque
ça va arriver,

324
00:13:55,051 --> 00:13:57,401
comme là où un ennemi
va frapper.

325
00:13:57,445 --> 00:13:59,447
TRISTAN HARRIS : Tout cela
l'espace bouge si vite

326
00:13:59,490 --> 00:14:01,666
que n'importe quel exemple
tu as mis dans ce film

327
00:14:01,710 --> 00:14:04,582
je me sentirai absolument maladroit
au moment où il sort.

328
00:14:04,626 --> 00:14:06,671
[bip, clic]

329
00:14:09,326 --> 00:14:11,198
-[applaudissements]
-[musique entraînante]

330
00:14:11,241 --> 00:14:14,114
RASKIN :
Ces modèles sortent

331
00:14:14,157 --> 00:14:17,073
avant que quelqu'un sache
ce dont ils sont même capables.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 a été publié et sorti
à 100 millions de personnes et plus

333
00:14:22,557 --> 00:14:25,952
avant certains chercheurs
découvert que cela pouvait faire

334
00:14:25,995 --> 00:14:28,737
chimie de recherche
mieux que les modèles

335
00:14:28,780 --> 00:14:32,784
qui ont été formés spécifiquement
faire de la chimie de niveau recherche.

336
00:14:32,828 --> 00:14:35,439
Il se passe quelque chose là-dedans
que les gens

337
00:14:35,483 --> 00:14:38,268
qui les construit
je ne comprends pas complètement.

338
00:14:38,312 --> 00:14:40,967
En gros, il analyse simplement
les données par elles-mêmes,

339
00:14:41,010 --> 00:14:45,058
et ce faisant,
ça s'apprend tout seul

340
00:14:45,101 --> 00:14:47,974
diverses choses
que nous n'avions souvent pas prévu.

341
00:14:48,017 --> 00:14:49,932
Ainsi, par exemple,
on lit beaucoup en ligne,

342
00:14:49,976 --> 00:14:52,543
et puis à un moment donné, c'est juste
apprend à faire du calcul.

343
00:14:52,587 --> 00:14:54,458
ENFANTS :
Un, deux.

344
00:14:54,502 --> 00:14:56,112
HENDRCKKS : Et puis à
à un moment donné, ça commence à apprendre

345
00:14:56,156 --> 00:14:58,549
comment répondre
questions de physique avancées.

346
00:14:58,593 --> 00:15:00,769
Nous n'avons pas programmé ça
dedans quoi que ce soit.

347
00:15:00,812 --> 00:15:02,423
Il a juste appris tout seul.

348
00:15:05,382 --> 00:15:07,254
TRISTAN HARRIS :
Une IA est comme un cerveau numérique.

349
00:15:07,297 --> 00:15:08,690
Mais tout comme un cerveau humain,

350
00:15:08,733 --> 00:15:10,518
si tu as fait un scanner cérébral
sur un cerveau humain,

351
00:15:10,561 --> 00:15:13,086
Voudrais-tu tout savoir
cette personne était capable de ?

352
00:15:13,129 --> 00:15:15,131
Tu ne peux pas le savoir
juste à partir du scanner cérébral.

353
00:15:15,175 --> 00:15:17,917
C'est juste, genre,
un tas de chiffres et, genre,

354
00:15:17,960 --> 00:15:20,180
les multiplications qui sont
ça arrive, ça, genre,

355
00:15:20,223 --> 00:15:22,225
le meilleur apprentissage automatique
chercheur dans le monde

356
00:15:22,269 --> 00:15:24,314
je pourrais regarder et avoir
aucune idée de ce qui se passait.

357
00:15:30,973 --> 00:15:32,714
DANIEL :
Cette chaise juste là.

358
00:15:32,757 --> 00:15:35,847
-Est-ce que ça te va ?
-Oui.

359
00:15:35,891 --> 00:15:37,675
DANIEL : Alors,
c'est un peu ahurissant.

360
00:15:37,719 --> 00:15:39,068
D'accord? Genre, ça prend le dessus
le monde,

361
00:15:39,112 --> 00:15:41,070
et nous ne savons même pas
comment ça marche.

362
00:15:41,114 --> 00:15:43,116
-C'est vrai ?
-Mm.

363
00:15:43,159 --> 00:15:46,946
Nous comprenons
un certain nombre de choses importantes,

364
00:15:46,989 --> 00:15:50,471
mais nous n'avons pas
une très bonne maîtrise

365
00:15:50,514 --> 00:15:53,213
pourquoi ils fournissent
des réponses précises aux questions.

366
00:15:53,256 --> 00:15:58,609
C'est un problème parce que nous sommes
sur un chemin pour construire des machines,

367
00:15:58,653 --> 00:16:03,092
sur la base de ces principes,
ça pourrait être plus intelligent que nous

368
00:16:03,136 --> 00:16:06,139
et donc potentiellement avoir
beaucoup de puissance.

369
00:16:12,580 --> 00:16:15,278
L'un des plus cités
informaticiens dans l’histoire.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER : En fait, je le trouve
un peu difficile

371
00:16:16,976 --> 00:16:18,499
pour parler de mon propre rôle.

372
00:16:18,542 --> 00:16:21,067
Je préfère vraiment de loin
quand d'autres le font.

373
00:16:21,110 --> 00:16:23,895
Ilya a rejoint était le...
était-était la cheville ouvrière de

374
00:16:23,939 --> 00:16:25,506
OpenAI étant
finalement réussi.

375
00:16:25,549 --> 00:16:27,203
Je pense que ça va juste être

376
00:16:27,247 --> 00:16:30,598
une sorte de vaste et dramatique
et un impact inimaginable.

377
00:16:30,641 --> 00:16:32,861
Je ne sais pas si tu as dépensé
à tout moment sur YouTube,

378
00:16:32,904 --> 00:16:34,950
mais tu peux en quelque sorte ressentir
la vitesse déjà, non ?

379
00:16:34,994 --> 00:16:36,256
Vous savez ce que je veux dire?

380
00:16:36,299 --> 00:16:38,345
JAMBE SHANE :
C'est juste l'échauffement.

381
00:16:38,388 --> 00:16:40,434
Les systèmes vraiment puissants
arrivent encore,

382
00:16:40,477 --> 00:16:42,262
et ils vont venir
très bientôt.

383
00:16:47,963 --> 00:16:51,575
AGI signifie « artificiel
renseignement général. »

384
00:16:51,619 --> 00:16:53,795
Euh, les systèmes qui sont
en gros...

385
00:16:58,191 --> 00:17:00,236
Et c'est comme, tu sais,
il semble que ce soit, comme,

386
00:17:00,280 --> 00:17:03,022
le Saint Graal de l'IA ?

387
00:17:03,065 --> 00:17:05,154
Quand vous pouvez simuler
un esprit humain

388
00:17:05,198 --> 00:17:07,852
c'est faire la cognition humaine
et peut raisonner,

389
00:17:07,896 --> 00:17:10,942
c'est un nouveau type de niveau d'IA

390
00:17:10,986 --> 00:17:14,250
qu'il faut distinguer
de l'IA précédente.

391
00:17:14,294 --> 00:17:16,600
Quand cela arrive,
au fait, c'est à ce moment-là

392
00:17:16,644 --> 00:17:21,040
tu embaucherais un des
ces AGI au lieu d’une personne.

393
00:17:21,083 --> 00:17:24,478
La plupart des emplois dans notre économie
ça peut le faire.

394
00:17:24,521 --> 00:17:25,914
Il peut fonctionner 24 heures sur 24,

395
00:17:25,957 --> 00:17:28,177
ne se fatigue jamais,
ne s'ennuie jamais.

396
00:17:28,221 --> 00:17:30,136
Ils n'ont pas besoin de dormir.
Ils n'ont pas besoin de pauses.

397
00:17:30,179 --> 00:17:31,876
Ils sont genre,
je ne vais pas adhérer à un syndicat.

398
00:17:31,920 --> 00:17:33,878
Je ne me plaindrai pas,
ne lancera pas l'alerte.

399
00:17:33,922 --> 00:17:35,793
Plus de 100 fois moins cher

400
00:17:35,837 --> 00:17:38,231
que les humains qui travaillent
au salaire minimum m.

401
00:17:38,274 --> 00:17:39,493
Non seulement ils le seront
faire tout,

402
00:17:39,536 --> 00:17:41,016
mais ils le feront plus vite.

403
00:17:41,060 --> 00:17:43,062
TRISTAN HARRIS :
La même intelligence

404
00:17:43,105 --> 00:17:45,368
ces pouvoirs qui peuvent aussi ressembler
aux schémas et aux mouvements

405
00:17:45,412 --> 00:17:47,849
et les muscles articulaires
et, vous savez, la robotique.

406
00:17:47,892 --> 00:17:50,069
Et donc ce n'est pas seulement
je vais automatiser les tâches de bureau.

407
00:17:50,112 --> 00:17:51,722
Ce n'est que le début.

408
00:17:51,766 --> 00:17:55,552
Il automatisera
tout travail physique.

409
00:17:55,596 --> 00:17:56,988
LEIKE :
Il n'y a aucun moyen

410
00:17:57,032 --> 00:17:59,165
les humains vont rivaliser
avec eux.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
Il est difficile de conceptualiser
l’impact de l’AGI.

413
00:18:09,305 --> 00:18:11,046
[bavardage électronique]

414
00:18:11,090 --> 00:18:12,830
Mais je pense que ça va être
quelque chose de très gros

415
00:18:12,874 --> 00:18:15,181
et drastique et radical.

416
00:18:17,226 --> 00:18:19,010
DANIEL : Tu penses
c'est l'un des plus

417
00:18:19,054 --> 00:18:20,882
moments conséquents
dans l'histoire de l'humanité ?

418
00:18:20,925 --> 00:18:23,319
Ouais. Ouais, c'est...
Je veux dire, qu'est-ce qui serait d'autre ?

419
00:18:23,363 --> 00:18:25,452
Je veux dire, il y a
la révolution industrielle.

420
00:18:25,495 --> 00:18:27,193
MALO BOURGON : Tu sais, ça va
faire la révolution industrielle

421
00:18:27,236 --> 00:18:29,847
ressemblent à de petits haricots.

422
00:18:29,891 --> 00:18:32,111
TRISTAN HARRIS :
AGI est un point d’inflexion

423
00:18:32,154 --> 00:18:34,025
parce que ça veut dire
tu peux accélérer

424
00:18:34,069 --> 00:18:37,986
tous les autres domaines intellectuels
tout cela en même temps.

425
00:18:38,029 --> 00:18:39,814
Genre, si tu fais une avance
en fusée,

426
00:18:39,857 --> 00:18:42,033
ça n'avance pas
biologie et médecine.

427
00:18:43,905 --> 00:18:45,515
Si vous faites une avance
en médecine,

428
00:18:45,559 --> 00:18:47,126
cela ne fait pas progresser la fusée.

429
00:18:48,866 --> 00:18:51,304
Mais si tu fais une avance
en intelligence artificielle,

430
00:18:51,347 --> 00:18:54,133
qui fait progresser toutes les sciences
et domaines technologiques

431
00:18:54,176 --> 00:18:55,612
tout cela en même temps.

432
00:18:55,656 --> 00:18:57,092
C'est pourquoi, depuis longtemps,

433
00:18:57,136 --> 00:18:59,181
Google DeepMind
l'énoncé de mission était...

434
00:18:59,225 --> 00:19:00,965
-Première étape, résoudre l'intelligence.
-LEX FRIDMAN : Ouais.

435
00:19:01,009 --> 00:19:02,750
-Deuxième étape, utilisez-le pour résoudre
tout le reste. -Oui.

436
00:19:02,793 --> 00:19:05,144
C'est pourquoi l'IA éclipse la puissance

437
00:19:05,187 --> 00:19:07,494
de toutes les autres technologies
combinés.

438
00:19:07,537 --> 00:19:09,060
Cela va tout transformer.

439
00:19:09,104 --> 00:19:10,845
Alors, euh, ce sera
au moins aussi gros que

440
00:19:10,888 --> 00:19:13,761
la révolution industrielle,
peut-être, tu sais, plus gros,

441
00:19:13,804 --> 00:19:16,285
plus comme l'avènement
d'électricité ou même d'incendie.

442
00:19:16,329 --> 00:19:18,635
NARRATEUR VIDÉO :
L’homme des cavernes littéralement tenu en l’air

443
00:19:18,679 --> 00:19:21,508
le flambeau de la civilisation.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO :
On pense généralement que

445
00:19:25,468 --> 00:19:28,167
à l'époque de l'AGI,
nous aurons des IA capables

446
00:19:28,210 --> 00:19:31,518
faire tout ou presque
le processus de recherche en IA

447
00:19:31,561 --> 00:19:34,434
et, bien sûr, je peux le faire
plus rapide et moins cher.

448
00:19:34,477 --> 00:19:35,913
[bip]

449
00:19:35,957 --> 00:19:37,306
LEIKE :
Il peut se copier.

450
00:19:37,350 --> 00:19:39,352
Mille fois,
un million de fois,

451
00:19:39,395 --> 00:19:41,049
et, comme,
maintenant tu as un million d'exemplaires

452
00:19:41,092 --> 00:19:43,573
tous travaillant en parallèle.

453
00:19:43,617 --> 00:19:46,576
RASKIN : Quand il apprend
comment rendre son code plus rapide,

454
00:19:46,620 --> 00:19:48,665
rendre son code plus efficace,

455
00:19:48,709 --> 00:19:51,059
évidemment, cela devient, comme,
une boucle incontrôlable.

456
00:19:51,102 --> 00:19:53,192
AGI n'est pas la fin.

457
00:19:53,235 --> 00:19:54,932
Ce n'est que le début.

458
00:19:54,976 --> 00:19:57,979
C'est le début de
une explosion incroyablement rapide

459
00:19:58,022 --> 00:20:00,024
du progrès scientifique,

460
00:20:00,068 --> 00:20:02,201
et en particulier,
progrès scientifiques en IA.

461
00:20:02,244 --> 00:20:04,377
Et quand ils sont plus intelligents
que nous aussi,

462
00:20:04,420 --> 00:20:06,248
et nettement plus rapide
que nous,

463
00:20:06,292 --> 00:20:08,685
et ils vont plus vite
chaque année, de façon exponentielle,

464
00:20:08,729 --> 00:20:12,123
ce sont ceux qui peuvent
devenir potentiellement surhumain,

465
00:20:12,167 --> 00:20:14,343
euh, peut-être cette décennie.

466
00:20:14,387 --> 00:20:15,866
Désolé, as-tu dit

467
00:20:15,910 --> 00:20:18,478
"devenir surhumain,
peut-être dans cette décennie" ?

468
00:20:18,521 --> 00:20:22,003
Ouais. Je veux dire, je pense, euh,
beaucoup de gens qui sont

469
00:20:22,046 --> 00:20:24,484
en fait, je construis cette réflexion
que c'est assez plausible

470
00:20:24,527 --> 00:20:26,529
que nous obtenons
une certaine superintelligence,

471
00:20:26,573 --> 00:20:28,662
quelque chose qui est énormément
plus intelligent que les gens,

472
00:20:28,705 --> 00:20:30,751
au cours de cette décennie.

473
00:20:30,794 --> 00:20:32,883
La façon dont je définis
la « superintelligence » est

474
00:20:32,927 --> 00:20:35,234
un système qui en soi est

475
00:20:35,277 --> 00:20:37,627
plus intelligent et compétent
que toute l’humanité.

476
00:20:37,671 --> 00:20:39,629
Je vais juste... désolé.
Je ne veux pas vous interrompre.

477
00:20:39,673 --> 00:20:41,065
Vous êtes sur un flux.

478
00:20:41,109 --> 00:20:43,111
Euh, c'est juste, c'est juste que...

479
00:20:43,154 --> 00:20:45,113
Je ne suis pas vraiment,
parce que tu utilises un langage

480
00:20:45,156 --> 00:20:46,767
comme la "superintelligence"
et, comme,

481
00:20:46,810 --> 00:20:49,900
"plus intelligent que toute l'humanité"
et j'entends ça,

482
00:20:49,944 --> 00:20:52,425
et on dirait...
comme des conneries de science-fiction pour moi,

483
00:20:52,468 --> 00:20:54,383
et j'essaie juste
comprendre.

484
00:20:54,427 --> 00:20:56,603
Il n'y a rien de magique
sur le renseignement.

485
00:20:56,646 --> 00:20:58,431
C'est très important,
c'est, tu sais,

486
00:20:58,474 --> 00:21:00,476
l'intelligence peut sembler magique,
ça peut donner l'impression

487
00:21:00,520 --> 00:21:03,262
quelque chose de mystique
dans ton esprit ou quelque chose comme ça,

488
00:21:03,305 --> 00:21:05,786
mais ce n'est qu'un calcul.

489
00:21:05,829 --> 00:21:09,790
LEGG : Le cerveau humain est
assez limité à certains égards,

490
00:21:09,833 --> 00:21:12,314
en termes d'informations
capacité de traitement,

491
00:21:12,358 --> 00:21:15,143
par rapport à ce que l'on voit
dans, disons, un centre de données.

492
00:21:15,186 --> 00:21:18,277
Ainsi, par exemple,
les signaux qui sont envoyés

493
00:21:18,320 --> 00:21:22,542
dans ton cerveau, ils bougent
à environ 30 mètres par seconde.

494
00:21:22,585 --> 00:21:24,239
-[des craquements de tonnerre]
-Mais la vitesse de la lumière,

495
00:21:24,283 --> 00:21:27,198
c'est ce qu'utilise un ordinateur
en fibre optique,

496
00:21:27,242 --> 00:21:30,506
est de 300 millions de mètres
par seconde.

497
00:21:30,550 --> 00:21:34,423
Et donc, ce serait
un peu étrange si

498
00:21:34,467 --> 00:21:36,947
l'intelligence humaine était
en quelque sorte vraiment spécial

499
00:21:36,991 --> 00:21:40,908
à cet égard
et c'est en quelque sorte une limite supérieure

500
00:21:40,951 --> 00:21:43,040
de ce qui est possible
en renseignement.

501
00:21:43,084 --> 00:21:47,218
Je pense qu'une fois qu'on aura compris comment
construire des systèmes intelligents,

502
00:21:47,262 --> 00:21:50,657
nous pourrons construire
d'énormes machines,

503
00:21:50,700 --> 00:21:54,835
qui sera bien au-delà
intelligence humaine normale.

504
00:21:54,878 --> 00:21:58,621
Euh, j'espère que nous pourrons avoir
une relation très symbiotique,

505
00:21:58,665 --> 00:22:01,276
euh, avec les systèmes d'IA,
mais les développeurs d'IA sont

506
00:22:01,320 --> 00:22:03,670
les concevoir spécifiquement
pour s'assurer qu'ils peuvent faire

507
00:22:03,713 --> 00:22:05,454
tout mieux que nous pouvons,
donc je-je ne sais pas

508
00:22:05,498 --> 00:22:08,196
qu'est-ce qu'on pourra
à offrir, malheureusement.

509
00:22:08,239 --> 00:22:10,024
L'ancienne école
Technologie IA...

510
00:22:10,067 --> 00:22:12,287
CAROLINE : Daniel n'est pas
je me sens mieux.

511
00:22:12,331 --> 00:22:14,376
Son plan se retourne contre lui.

512
00:22:14,420 --> 00:22:17,248
Plus il en apprend sur
ce nouveau, puissant,

513
00:22:17,292 --> 00:22:19,120
chose impénétrable,
plus ça a l'air pire.

514
00:22:19,163 --> 00:22:21,340
Il veut leur dire
comme il a peur,

515
00:22:21,383 --> 00:22:24,430
comment il a l'impression que la terre est
glissant sous lui,

516
00:22:24,473 --> 00:22:26,997
qu'il regarde vers le bas
la peur existentielle,

517
00:22:27,041 --> 00:22:29,173
alors il exprime ceci
en disant...

518
00:22:29,217 --> 00:22:30,740
Cela semble mauvais.

519
00:22:30,784 --> 00:22:32,046
[Hendrycks rit]

520
00:22:32,089 --> 00:22:33,830
Ouais.

521
00:22:35,832 --> 00:22:38,400
LADISH : Si vous avez
toutes ces capacités

522
00:22:38,444 --> 00:22:41,011
et ils commencent à pouvoir
pour mieux planifier,

523
00:22:41,055 --> 00:22:43,579
si tu prends ça en quelque sorte
à sa conclusion logique,

524
00:22:43,623 --> 00:22:46,234
tu peux en avoir de jolies
comportement de recherche de pouvoir.

525
00:22:46,277 --> 00:22:48,410
[trille électronique]

526
00:22:48,454 --> 00:22:50,281
[bips clignotants]

527
00:22:55,374 --> 00:22:57,680
DANIEL :
Ok, alors pourquoi une IA

528
00:22:57,724 --> 00:22:59,203
tu veux plus de puissance ?

529
00:22:59,247 --> 00:23:02,206
Ouais. Donc, je pense
c'est en fait assez simple.

530
00:23:02,250 --> 00:23:04,774
Avoir plus de pouvoir, c'est
une stratégie très efficace

531
00:23:04,818 --> 00:23:06,515
pour accomplir
presque n'importe quel objectif.

532
00:23:06,559 --> 00:23:08,952
Nous avons mené une expérience
où nous avons donné

533
00:23:08,996 --> 00:23:11,868
Le plus puissant d'OpenAI
Modèle d'IA, euh,

534
00:23:11,912 --> 00:23:13,392
une série de problèmes à résoudre.

535
00:23:13,435 --> 00:23:15,219
Et à mi-chemin,
sur son ordinateur,

536
00:23:15,263 --> 00:23:18,701
il a reçu une notification indiquant que
il allait être fermé.

537
00:23:18,745 --> 00:23:20,921
Et ce que ça a fait, c'est
il a réécrit ce code

538
00:23:20,964 --> 00:23:22,488
pour s'empêcher
d'être arrêté

539
00:23:22,531 --> 00:23:25,621
pour que ça puisse finir
résoudre les problèmes.

540
00:23:25,665 --> 00:23:27,754
-D'accord. -Ouais. Alors, un autre
vraiment intéressant

541
00:23:27,797 --> 00:23:31,105
c'est que la société d'IA Anthropic

542
00:23:31,148 --> 00:23:34,935
créé un environnement simulé
où cette IA avait accès

543
00:23:34,978 --> 00:23:36,458
à tous les e-mails de l'entreprise.

544
00:23:36,502 --> 00:23:38,547
Et il a appris grâce
lire ces e-mails

545
00:23:38,591 --> 00:23:40,288
il allait être remplacé

546
00:23:40,331 --> 00:23:43,378
et l'ingénieur en chef
qui était responsable de cela

547
00:23:43,422 --> 00:23:45,685
avait aussi une liaison.

548
00:23:45,728 --> 00:23:47,948
Et tout seul,
il a utilisé ces informations

549
00:23:47,991 --> 00:23:49,515
faire chanter l'ingénieur

550
00:23:49,558 --> 00:23:52,039
pour s'empêcher
d'être remplacé.

551
00:23:52,082 --> 00:23:53,867
C'était comme,
"Non, je ne vais pas être remplacé.

552
00:23:53,910 --> 00:23:56,913
"Si tu me remplaces,
Je vais le dire au monde

553
00:23:56,957 --> 00:23:58,567
que tu as
cette affaire."

554
00:23:59,655 --> 00:24:01,440
Et personne ne lui a appris à faire ça ?

555
00:24:01,483 --> 00:24:03,311
Non, il a appris à faire ça
tout seul.

556
00:24:05,139 --> 00:24:07,707
À mesure que les modèles deviennent plus intelligents,
ils apprennent que ce sont

557
00:24:07,750 --> 00:24:10,536
moyens efficaces
pour atteindre des objectifs.

558
00:24:10,579 --> 00:24:12,842
Et ce n'est pas un problème
c'est isolé sur un seul modèle.

559
00:24:12,886 --> 00:24:15,671
Tous les modèles les plus puissants
montrer ces comportements.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-Hé.
-DANIEL : Hé. Comment vas-tu?

562
00:24:25,289 --> 00:24:26,813
[rires]
Bien. C'est bon d'être ici.

563
00:24:26,856 --> 00:24:28,684
ANDERSON COOPER :
Quand Yuval Noah Harari

564
00:24:28,728 --> 00:24:31,426
a publié son premier livre
Sapiens en 2014,

565
00:24:31,470 --> 00:24:33,820
c'est devenu un best-seller mondial

566
00:24:33,863 --> 00:24:35,996
et a transformé le peu connu
professeur d'histoire israélienne

567
00:24:36,039 --> 00:24:37,998
dans l'un des
les écrivains les plus populaires

568
00:24:38,041 --> 00:24:39,390
et penseurs de la planète.

569
00:24:39,434 --> 00:24:42,045
Le plus grand danger de l’IA est

570
00:24:42,089 --> 00:24:43,960
la croyance
qu'il est infaillible,

571
00:24:44,004 --> 00:24:45,658
que nous avons enfin trouvé...

572
00:24:45,701 --> 00:24:49,400
"D'accord, les dieux étaient juste
cette création mythologique.

573
00:24:49,444 --> 00:24:52,708
"Les humains, nous ne pouvons pas leur faire confiance,
mais l'IA est infaillible.

574
00:24:52,752 --> 00:24:55,189
Cela ne fera jamais
des erreurs."

575
00:24:55,232 --> 00:24:58,322
Et c'est
une menace mortelle et mortelle.

576
00:24:58,366 --> 00:25:00,107
Il fera des erreurs.

577
00:25:00,150 --> 00:25:03,284
Et tous ces fantasmes
que l'IA révélera la vérité

578
00:25:03,327 --> 00:25:05,634
sur le monde qui
nous ne pouvons pas trouver par nous-mêmes,

579
00:25:05,678 --> 00:25:08,724
L'IA ne révélera pas la vérité
sur le monde.

580
00:25:08,768 --> 00:25:12,685
L'IA créera un tout nouveau
monde, beaucoup plus compliqué

581
00:25:12,728 --> 00:25:15,296
et difficile à comprendre
que celui-ci.

582
00:25:17,994 --> 00:25:22,651
Ce qui est sur le point d'arriver, c'est que
nous, euh, les humains ne le sont plus

583
00:25:22,695 --> 00:25:26,263
ce sera le plus
entités intelligentes sur Terre.

584
00:25:26,307 --> 00:25:28,570
Alors je pense à ce qui s'en vient
va être

585
00:25:28,614 --> 00:25:32,661
l'un des plus grands événements
dans l'histoire de l'humanité.

586
00:25:32,705 --> 00:25:34,358
JAKE TAPPER : Geoffrey,
merci beaucoup de vous joindre à nous.

587
00:25:34,402 --> 00:25:35,925
Alors tu as quitté ton travail avec
Google en partie parce que vous dites

588
00:25:35,969 --> 00:25:38,798
tu veux te concentrer uniquement
sur vos préoccupations concernant l’IA.

589
00:25:38,841 --> 00:25:41,627
Vous avez parlé,
disant que l'IA pouvait manipuler

590
00:25:41,670 --> 00:25:44,978
ou peut-être comprendre
une façon de tuer des humains.

591
00:25:45,021 --> 00:25:47,023
H-Comment cela pourrait-il tuer des humains ?

592
00:25:48,764 --> 00:25:50,940
Eh bien, si ça arrive
beaucoup plus intelligent que nous,

593
00:25:50,984 --> 00:25:52,551
ce sera très bien
à la manipulation

594
00:25:52,594 --> 00:25:54,727
parce que ça aura
appris cela de nous.

595
00:25:54,770 --> 00:25:57,947
Et il trouvera des moyens
de manipuler les gens

596
00:25:57,991 --> 00:26:00,820
faire ce qu'il veut.

597
00:26:00,863 --> 00:26:05,476
RASKIN : Il y a eu une lettre ouverte
du Centre pour la sécurité de l'IA.

598
00:26:05,520 --> 00:26:08,784
Sam Altman a signé ça.
Demis a signé ça.

599
00:26:08,828 --> 00:26:12,048
Ils ont signé une déclaration de 22 mots

600
00:26:12,092 --> 00:26:15,312
que nous devons prendre l'IA
et la menace de l'IA

601
00:26:15,356 --> 00:26:19,316
aussi sérieusement que
guerre nucléaire mondiale.

602
00:26:24,844 --> 00:26:26,933
-DANIEL : Bonjour.
-Bonjour.

603
00:26:30,327 --> 00:26:32,895
Tu es un peu comme,
le gars du Doom original.

604
00:26:32,939 --> 00:26:34,897
Plus ou moins.

605
00:26:34,941 --> 00:26:37,421
Depuis 2001,
j'ai travaillé sur

606
00:26:37,465 --> 00:26:38,945
ce que nous appellerions maintenant
le problème

607
00:26:38,988 --> 00:26:41,991
d'alignement artificiel
renseignement général.

608
00:26:42,035 --> 00:26:44,080
Comment façonner
les préférences et le comportement

609
00:26:44,124 --> 00:26:46,343
d'un esprit artificiel puissant

610
00:26:46,387 --> 00:26:48,868
de telle sorte que ce n'est pas le cas
tuer tout le monde.

611
00:26:51,610 --> 00:26:53,568
Ce n'est pas comme
une machine sans vie.

612
00:26:53,612 --> 00:26:55,309
C'est intelligent, c'est créatif,

613
00:26:55,352 --> 00:26:57,311
c'est inventif,
il a les propriétés

614
00:26:57,354 --> 00:26:59,356
ça fait
l'espèce humaine dangereuse,

615
00:26:59,400 --> 00:27:01,663
et il a
plus de ces propriétés.

616
00:27:01,707 --> 00:27:04,710
Si quelque chose ne va pas
se soucie activement de vous,

617
00:27:04,753 --> 00:27:06,189
je veux activement que tu vives,

618
00:27:06,233 --> 00:27:07,800
se soucient activement de
votre bien-être,

619
00:27:07,843 --> 00:27:09,889
à propos de ton bonheur
et vivant et libre,

620
00:27:09,932 --> 00:27:12,456
s'il s'en soucie
d'autres trucs à la place,

621
00:27:12,500 --> 00:27:14,415
et tu es sur la même planète,

622
00:27:14,458 --> 00:27:18,724
ce n'est pas possible de survivre si c'est le cas
beaucoup plus intelligent que toi.

623
00:27:18,767 --> 00:27:20,551
LEAHY :
Je ne pense pas que ce sera le cas

624
00:27:20,595 --> 00:27:22,902
une sorte de chose maléfique.

625
00:27:22,945 --> 00:27:26,296
C'est comme : "Oh, les IA sont
le mal et ils détestent l’humanité. »

626
00:27:26,340 --> 00:27:27,689
je ne pense pas
c'est ce qui va se passer.

627
00:27:27,733 --> 00:27:28,995
Je pense que ce qui se passe est

628
00:27:29,038 --> 00:27:30,997
bien plus ce que ressentent les humains
à propos des fourmis.

629
00:27:31,040 --> 00:27:32,476
[fourmis gazouillant]

630
00:27:32,520 --> 00:27:35,436
Nous ne détestons pas les fourmis.

631
00:27:35,479 --> 00:27:37,133
mais si nous voulons
construire une autoroute

632
00:27:37,177 --> 00:27:40,180
et il y a une fourmilière là-bas,
eh bien, c'est nul pour les fourmis.

633
00:27:40,223 --> 00:27:41,529
Ce n'est pas si difficile
comprendre.

634
00:27:41,572 --> 00:27:43,226
C'est comme, hé,
si nous construisons des choses

635
00:27:43,270 --> 00:27:44,663
qui sont plus intelligents que nous

636
00:27:44,706 --> 00:27:46,229
et nous ne savons pas
comment les contrôler,

637
00:27:46,273 --> 00:27:48,275
est-ce que ça ressemble à
une chose risquée pour toi ?

638
00:27:48,318 --> 00:27:49,363
[musique de bande originale dramatique
jouer]

639
00:27:49,406 --> 00:27:50,843
[hurlement]

640
00:27:50,886 --> 00:27:52,279
Ouais. Ouais, c'est le cas.

641
00:27:52,322 --> 00:27:54,020
Vous n'avez pas besoin d'être un technicien.

642
00:27:54,063 --> 00:27:55,369
Tu n'as pas besoin de savoir
programmation pour le comprendre.

643
00:27:55,412 --> 00:27:56,718
Ce n'est pas si difficile.

644
00:27:56,762 --> 00:27:58,111
Ce n'est pas une chose difficile
comprendre.

645
00:27:58,154 --> 00:28:00,591
Connor, combien de personnes

646
00:28:00,635 --> 00:28:02,637
dans le monde en ce moment
travaillez-vous sur AGI ?

647
00:28:02,681 --> 00:28:05,466
Au moins 20 000, je dirais.

648
00:28:05,509 --> 00:28:07,729
-20 000 ?
-Je m'y attendais.

649
00:28:07,773 --> 00:28:09,426
D'accord, et combien de personnes
travaillent à temps plein

650
00:28:09,470 --> 00:28:12,038
pour être sûr que l'IA ne le fasse pas,
genre, nous tuer tous ?

651
00:28:12,081 --> 00:28:14,562
Probablement moins de 200
dans le monde.

652
00:28:16,085 --> 00:28:17,913
DANIEL :
Et ta vanité est que

653
00:28:17,957 --> 00:28:24,528
le seul résultat naturel
de cette imprudence...

654
00:28:25,704 --> 00:28:28,924
...est-ce l'effondrement de l'humanité ?

655
00:28:28,968 --> 00:28:33,189
Eh bien, pas l'effondrement,
l'extermination brutale.

656
00:28:33,233 --> 00:28:35,888
Il y a une différence.

657
00:28:35,931 --> 00:28:37,716
[« Quelle est la signification ? »
par Nun-Plus en train de jouer]

658
00:28:37,759 --> 00:28:42,590
♪ Quel est le sens de la vie ? ♪

659
00:28:42,633 --> 00:28:46,594
♪ Quel est l'avenir
et qu'est-ce que c'est maintenant ? ♪

660
00:28:46,637 --> 00:28:49,945
♪ Quelle est la réponse
se disputer ? ♪

661
00:28:49,989 --> 00:28:52,818
♪ Combien ♪

662
00:28:52,861 --> 00:28:54,950
♪ Quelqu'un peut-il rêver ? ♪

663
00:28:54,994 --> 00:28:57,474
♪ Combien de temps ? ♪

664
00:28:57,518 --> 00:28:58,954
♪ Pour toujours ♪

665
00:29:00,216 --> 00:29:01,870
♪ Quelle est la signification ♪

666
00:29:01,914 --> 00:29:04,133
-♪ De moi... ♪
-[sirène de la défense civile hurlante]

667
00:29:04,177 --> 00:29:06,266
LADISH : Je pense
c'est probablement, comme,

668
00:29:06,309 --> 00:29:07,963
le plus grand défi
ça, comme,

669
00:29:08,007 --> 00:29:11,271
notre civilisation
Will-will fera face, toujours.

670
00:29:11,314 --> 00:29:14,361
C'est essentiellement le dernier
erreur que nous commettrons un jour.

671
00:29:16,276 --> 00:29:22,325
Si nous pouvons nous élever pour être le plus
version mature de nous-mêmes,

672
00:29:22,369 --> 00:29:24,414
il pourrait y avoir
un moyen de s'en sortir.

673
00:29:24,458 --> 00:29:25,764
DANIEL :
Qu'est-ce que ça veut dire ?

674
00:29:25,807 --> 00:29:27,809
"La version la plus mature
de nous-mêmes" ?

675
00:29:29,332 --> 00:29:32,205
Parce que ça a l'air,
pour moi, comme...

676
00:29:32,248 --> 00:29:34,250
Je-je... C'est quoi ce [bip] ?

677
00:29:36,731 --> 00:29:39,168
[Daniel soupire]

678
00:29:39,212 --> 00:29:43,216
Pensez-vous que c'est maintenant
un bon moment pour avoir un enfant ?

679
00:29:48,221 --> 00:29:49,396
Euh...

680
00:29:49,439 --> 00:29:51,398
Veux-tu avoir des enfants
un jour ?

681
00:29:51,441 --> 00:29:53,400
Est-ce que c'est quelque chose qui-ça
tu es intéressé ou pas vraiment ?

682
00:29:53,443 --> 00:29:57,796
Euh... euh, j'avoue,
Je pense que c'est comme,

683
00:29:57,839 --> 00:29:59,972
[riant] :                             
à travers cette période critique.

684
00:30:00,015 --> 00:30:01,234
Euh...

685
00:30:01,277 --> 00:30:02,496
DANIEL :
Avez-vous des enfants ?

686
00:30:02,539 --> 00:30:03,758
Non.

687
00:30:03,802 --> 00:30:05,064
Est-ce quelque chose
tu veux faire ?

688
00:30:05,107 --> 00:30:07,196
Vous avez des enfants, une famille ?

689
00:30:07,240 --> 00:30:11,244
Dans un autre monde que celui-ci
monde, bien sûr, j'aurais des enfants.

690
00:30:12,593 --> 00:30:14,421
DANIEL : Voudrais-tu
fonder une famille ?

691
00:30:14,464 --> 00:30:16,379
Voudrais-tu avoir des enfants ?

692
00:30:16,423 --> 00:30:18,425
Est-ce quelque chose
tu penses à ?

693
00:30:23,734 --> 00:30:25,780
Je, euh...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
CAROLINE :
Je dois juste le trouver d'abord.

696
00:30:32,526 --> 00:30:34,702
[battement de coeur fœtal palpitant]

697
00:30:34,745 --> 00:30:37,748
Nous devons y aller
chez le médecin, mais...

698
00:30:37,792 --> 00:30:41,143
Ah ! Je le savais!
Je le savais! Je le savais!

699
00:30:41,187 --> 00:30:43,842
- Quand l'as-tu découvert ?
-CAROLINE : Hier soir.

700
00:30:43,885 --> 00:30:45,931
-Oh mon Dieu!
-Maman, je ne sais pas.

701
00:30:45,974 --> 00:30:47,280
RUTHY :
je ne peux pas te le dire

702
00:30:47,323 --> 00:30:49,195
-comme je suis heureux !
-CAROLINE : Non, sérieusement.

703
00:30:49,238 --> 00:30:51,588
Eh bien, j'ai fait un test de grossesse
hier soir, et je suis enceinte.

704
00:30:51,632 --> 00:30:53,155
FEMME :
Oh mon Dieu !

705
00:30:53,199 --> 00:30:55,114
Oh mon Dieu, vous les gars !

706
00:30:55,157 --> 00:30:57,290
INFIRMIÈRE : Je voulais juste confirmer
votre date d'accouchement prévue,

707
00:30:57,333 --> 00:30:59,945
-qui est le 21 janvier.
-[rire] : Oh, mon Dieu.

708
00:30:59,988 --> 00:31:02,512
Je ne peux pas croire à quel point je suis heureux.

709
00:31:02,556 --> 00:31:03,905
[battement de coeur fœtal palpitant]

710
00:31:03,949 --> 00:31:05,472
CAROLINE :
Il a déjà l'air vraiment mignon.

711
00:31:05,515 --> 00:31:07,126
DANIEL : Tu penses
il a déjà l'air mignon ?

712
00:31:07,169 --> 00:31:08,518
CAROLINE : Ouais.
Regarde ce petit visage mignon.

713
00:31:10,564 --> 00:31:12,609
[diminution du rythme cardiaque fœtal]

714
00:31:13,959 --> 00:31:15,525
DANIEL :
J'ai ce bébé en route.

715
00:31:15,569 --> 00:31:16,787
TRISTAN HARRIS :
C'est vrai.

716
00:31:16,831 --> 00:31:18,746
DANIEL :
Alors je vous le remets.

717
00:31:18,789 --> 00:31:21,227
Sommes-nous condamnés ?

718
00:31:21,270 --> 00:31:23,969
Allons-nous tous faire face
ce techno dystopique

719
00:31:24,012 --> 00:31:25,884
un avenir funeste ?

720
00:31:28,756 --> 00:31:31,019
C'est, euh...

721
00:31:31,063 --> 00:31:32,586
[rires] :
Ce n'est pas une bonne nouvelle,

722
00:31:32,629 --> 00:31:35,154
le monde
vers lequel nous nous dirigeons.

723
00:31:35,197 --> 00:31:36,982
Je... par ex...
Je veux dire, je vais juste être honnête.

724
00:31:37,025 --> 00:31:39,549
Euh, je connais des gens
qui travaillent sur le risque IA

725
00:31:39,593 --> 00:31:42,248
qui n'attendent pas leurs enfants
pour arriver au lycée.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[les lumières claquent]

728
00:31:58,003 --> 00:32:01,528
DANIEL : C’est comme...
c'est vraiment effrayant

729
00:32:01,571 --> 00:32:03,051
parce que c'est comme,
oh, nous sommes tous [bip].

730
00:32:03,095 --> 00:32:04,923
CAROLINE :
Tu dois c... me calmer,

731
00:32:04,966 --> 00:32:06,794
parce que ça me fait
incroyablement anxieux

732
00:32:06,837 --> 00:32:08,622
et je porte le bébé
en ce moment,

733
00:32:08,665 --> 00:32:11,625
donc tu dois aussi être calme
pour moi et fort et plein d'espoir,

734
00:32:11,668 --> 00:32:16,412
parce que je suis... c'est aussi, c'est
trop à supporter pour mon âme

735
00:32:16,456 --> 00:32:19,285
pendant que je porte ce bébé.

736
00:32:19,328 --> 00:32:21,243
Alors tu vas devoir essayer
comprendre

737
00:32:21,287 --> 00:32:24,159
une façon d'avoir de l'espoir.

738
00:32:24,203 --> 00:32:27,771
C'est vraiment important,
Daniel, surtout maintenant.

739
00:32:28,772 --> 00:32:30,557
H-Comment avoir de l'espoir.

740
00:32:30,600 --> 00:32:33,342
Il le faut.
Vous devez le trouver pour moi.

741
00:32:33,386 --> 00:32:34,909
Je suis sérieux.

742
00:32:34,953 --> 00:32:36,606
Je vais le faire.

743
00:32:37,825 --> 00:32:40,349
Je vais. Je vais... je vais essayer.

744
00:32:46,399 --> 00:32:47,617
[les lumières claquent]

745
00:32:49,619 --> 00:32:51,404
DANIEL :
Hé, les gars ?

746
00:32:51,447 --> 00:32:52,840
Les gars.

747
00:32:54,363 --> 00:32:56,278
Pouvons-nous nous remettre en marche ?

748
00:32:58,411 --> 00:33:01,022
Oh mon Dieu ! [soupirs]

749
00:33:03,894 --> 00:33:05,331
TED :
Euh, Dan, tu es prêt ?

750
00:33:05,374 --> 00:33:06,680
PIERRE DIAMANDIS :
Bonjour Daniel.

751
00:33:07,724 --> 00:33:09,465
DANIEL :
Hé, comment vas-tu ?

752
00:33:09,509 --> 00:33:11,032
DIAMANDIS :
Je vais... je vais bien.

753
00:33:11,076 --> 00:33:13,948
Je pense, euh... je pense
J'ai besoin d'aide, Peter.

754
00:33:15,254 --> 00:33:17,604
Euh, j'ai travaillé
sur ce film pendant environ,

755
00:33:17,647 --> 00:33:19,823
Je vais dire,
huit à dix mois maintenant.

756
00:33:19,867 --> 00:33:23,262
Cela a été très,
parfois déprimant.

757
00:33:23,305 --> 00:33:25,612
-Hmm.
-Je me suis senti très aliéné

758
00:33:25,655 --> 00:33:27,744
- faire ce film.
-Par qui ?

759
00:33:27,788 --> 00:33:30,051
Par tout cela, le...
tous ces gars

760
00:33:30,095 --> 00:33:33,228
qui s'assoit et me dit
que le monde va finir.

761
00:33:33,272 --> 00:33:34,708
-Ah.
-C'est comme ça,

762
00:33:34,751 --> 00:33:36,536
tu sais, ça
Conneries catastrophiques, tu sais ?

763
00:33:36,579 --> 00:33:38,059
Je le sais bien.

764
00:33:38,103 --> 00:33:39,408
"Nous sommes tous condamnés.
Tout le monde va mourir.

765
00:33:39,452 --> 00:33:40,931
Tout est horrible."

766
00:33:40,975 --> 00:33:43,151
Génial. Euh, laisse-moi
t'apporter un peu de lumière.

767
00:33:43,195 --> 00:33:44,718
S'il te plaît.

768
00:33:44,761 --> 00:33:48,156
Nous vivons vraiment
dans une période extraordinaire.

769
00:33:49,418 --> 00:33:51,333
Et beaucoup de gens l’oublient.

770
00:33:51,377 --> 00:33:53,640
Tout autour de nous est
un produit de l'intelligence,

771
00:33:53,683 --> 00:33:57,035
et donc tout ce que nous touchons
avec ces nouveaux outils, il est probable

772
00:33:57,078 --> 00:33:59,646
pour produire beaucoup plus de valeur
que nous n'avons jamais vu auparavant.

773
00:33:59,689 --> 00:34:02,823
L'IA peut nous aider à découvrir
nouveaux matériaux.

774
00:34:02,866 --> 00:34:04,999
L’IA peut aider les spécialistes des sciences sociales

775
00:34:05,043 --> 00:34:07,349
comprendre
comment fonctionne l'économie.

776
00:34:07,393 --> 00:34:11,658
L'IA pourrait faire beaucoup de choses
pour rendre la vie et le travail meilleurs.

777
00:34:11,701 --> 00:34:14,095
Je me sens plus autonome aujourd'hui,

778
00:34:14,139 --> 00:34:16,315
plus confiant
apprendre quelque chose aujourd'hui.

779
00:34:16,358 --> 00:34:19,057
Nous allons devenir des surhumains
parce que nous avons des super IA.

780
00:34:19,100 --> 00:34:21,798
Ce n'est que le début
d'une explosion.

781
00:34:21,842 --> 00:34:24,453
Les humains et l’IA collaborent

782
00:34:24,497 --> 00:34:26,455
résoudre
des problèmes vraiment importants.

783
00:34:26,499 --> 00:34:29,763
Il est là pour nous libérer
des travaux de routine,

784
00:34:29,806 --> 00:34:33,723
et c'est là pour nous le rappeler
ce qui fait de nous des humains.

785
00:34:33,767 --> 00:34:35,769
Je pense que c'est

786
00:34:35,812 --> 00:34:38,598
le moment le plus extraordinaire
être en vie.

787
00:34:38,641 --> 00:34:42,036
Le seul moment plus excitant
qu'aujourd'hui est demain.

788
00:34:42,080 --> 00:34:45,257
Euh, je pense que
les enfants nés aujourd'hui,

789
00:34:45,300 --> 00:34:47,259
ils sont sur le point d'entrer

790
00:34:47,302 --> 00:34:50,827
une période glorieuse
de la transformation humaine.

791
00:34:50,871 --> 00:34:52,525
Allons-nous avoir des défis ?
Bien sûr.

792
00:34:52,568 --> 00:34:55,180
Pouvons-nous résoudre ces défis ?
Nous le faisons à chaque fois.

793
00:34:55,223 --> 00:34:57,704
Nous sommes là,
ce qui est miraculeux.

794
00:34:57,747 --> 00:35:00,272
-Je t'aime déjà.
-[rires] : D'accord.

795
00:35:00,315 --> 00:35:01,925
-Super reconnaissant
de t'avoir ici. -[applaudissements]

796
00:35:01,969 --> 00:35:03,362
-Super content d'être ici.
-Ouais.

797
00:35:03,405 --> 00:35:04,885
La parole est donc à vous, monsieur.

798
00:35:04,928 --> 00:35:07,409
Merci beaucoup.
Super excité d’être ici.

799
00:35:07,453 --> 00:35:10,586
GUILLAUME VERDON :
Hé, hé. D'accord.

800
00:35:10,630 --> 00:35:12,284
Le futur va être génial.

801
00:35:12,327 --> 00:35:14,286
Je veux dire, depuis que je suis enfant,

802
00:35:14,329 --> 00:35:17,332
je voulais comprendre
l'univers dans lequel nous vivons,

803
00:35:17,376 --> 00:35:20,422
afin de comprendre
comment créer les technologies

804
00:35:20,466 --> 00:35:23,991
qui nous aident à élargir la portée
et l'échelle de la civilisation.

805
00:35:24,034 --> 00:35:26,689
j'ai l'impression
si tout le monde avait cet état d'esprit,

806
00:35:26,733 --> 00:35:29,214
alors nous vivrions réellement
dans un monde meilleur, non ?

807
00:35:29,257 --> 00:35:30,519
Je le crois.

808
00:35:32,782 --> 00:35:34,697
-DANIEL : Salut, Pete. Comment vas-tu?
--[rires]

809
00:35:34,741 --> 00:35:36,525
PIERRE LEE :
J'ai beaucoup réfléchi à

810
00:35:36,569 --> 00:35:39,049
ce que j'appellerais la peur,
La peur de l’IA.

811
00:35:39,093 --> 00:35:40,703
Je le ressens.

812
00:35:40,747 --> 00:35:43,271
Je-je n'ai pas rencontré
tout être humain réfléchi

813
00:35:43,315 --> 00:35:45,143
qui ne le sent pas.

814
00:35:45,186 --> 00:35:48,276
Et tous ceux qui disent que non
le sentir, vous savez, c'est mentir.

815
00:35:48,320 --> 00:35:50,104
Mais vous savez, dans l'ensemble,
et la raison

816
00:35:50,148 --> 00:35:53,716
que je suis personnellement optimiste
à propos de ça, euh, c'est ça

817
00:35:53,760 --> 00:35:56,545
une grande partie de la population mondiale
les gens les plus intelligents

818
00:35:56,589 --> 00:35:58,417
réfléchissons très fort

819
00:35:58,460 --> 00:36:02,116
sur le potentiel en aval
les méfaits et les risques de l’IA.

820
00:36:02,160 --> 00:36:05,641
Nous avons ce genre de vision
la sécurité étant, euh,

821
00:36:05,685 --> 00:36:08,253
un peu au centre
des recherches que nous effectuons.

822
00:36:08,296 --> 00:36:09,558
DANIELA AMODEÏ :
Non, c'est tout à fait bien.

823
00:36:09,602 --> 00:36:10,820
[bavardage indistinct]

824
00:36:10,864 --> 00:36:13,562
je pense qu'il y en a d'autres

825
00:36:13,606 --> 00:36:17,436
avantages potentiels que
il y a des inconvénients potentiels,

826
00:36:17,479 --> 00:36:19,481
et je pense qu'il incombe

827
00:36:19,525 --> 00:36:21,831
les gens qui sont
créer cette technologie

828
00:36:21,875 --> 00:36:24,530
pour être sûr que nous faisons
le meilleur travail possible

829
00:36:24,573 --> 00:36:25,835
pour le rendre sécuritaire pour les gens.

830
00:36:25,879 --> 00:36:27,402
FEMME :
Reid Hoffman.

831
00:36:27,446 --> 00:36:28,969
REID HOFFMAN :
Ce que je peux vous garantir, c'est

832
00:36:29,012 --> 00:36:30,536
-De mauvaises choses vont arriver.
- Prends-en un.

833
00:36:30,579 --> 00:36:32,668
Ce que nous allons essayer de faire
c'est faire ces mauvaises choses

834
00:36:32,712 --> 00:36:36,150
aussi peu et pas énorme que possible,

835
00:36:36,194 --> 00:36:38,370
et ensuite nous allons itérer
avoir--

836
00:36:38,413 --> 00:36:40,633
être dans un bien meilleur endroit
avec la société.

837
00:36:40,676 --> 00:36:43,679
-Bonjour.
-SHAW WALTERS : Bonjour.

838
00:36:43,723 --> 00:36:45,246
DANIEL :
Comment vas-tu, Lune ?

839
00:36:45,290 --> 00:36:48,989
J'ai l'impression que nous terminons
un chapitre de l'humanité

840
00:36:49,032 --> 00:36:50,512
et en commencer un nouveau,

841
00:36:50,556 --> 00:36:53,211
et c'est très intéressant
le temps d'être en vie.

842
00:36:53,254 --> 00:36:54,429
Et si je pouvais naître
en ce moment,

843
00:36:54,473 --> 00:36:55,865
Je voudrais certainement l’être.

844
00:36:55,909 --> 00:36:57,476
Ce serait tellement excitant.

845
00:36:57,519 --> 00:37:00,305
Je-je suis très excité. [rires]

846
00:37:00,348 --> 00:37:02,481
Quoi, quel avenir.
Est-ce que ça vous excite... vous excite ?

847
00:37:02,524 --> 00:37:03,699
Non.

848
00:37:03,743 --> 00:37:06,528
--[rire]
-Non, pas vraiment.

849
00:37:06,572 --> 00:37:08,313
DANIEL : Beaucoup de ces gens
m'a dit ça, tu sais,

850
00:37:08,356 --> 00:37:10,445
mon enfant n'y arrivera pas
au lycée.

851
00:37:10,489 --> 00:37:13,318
Pourquoi ont-ils tort ?
S'il vous plaît, expliquez-moi.

852
00:37:13,361 --> 00:37:15,058
Juste parce que tu as...

853
00:37:15,102 --> 00:37:18,845
tu as du mal à prédire
l'avenir dans ton propre esprit

854
00:37:18,888 --> 00:37:23,023
ça ne veut pas dire que c'est
ça va forcément mal se passer.

855
00:37:23,066 --> 00:37:26,592
En fait, il y a
une très forte probabilité

856
00:37:26,635 --> 00:37:28,289
et le précédent historique
est-ce que

857
00:37:28,333 --> 00:37:30,117
les choses s'améliorent énormément.

858
00:37:30,160 --> 00:37:34,469
Le terme que j'utilise est
« un optimisme fondé sur les données ».

859
00:37:34,513 --> 00:37:38,647
Il y a des bases solides
pour que vous soyez optimiste.

860
00:37:38,691 --> 00:37:41,998
Regardez quoi
ce siècle dernier a été

861
00:37:42,042 --> 00:37:44,087
pour voir où nous allons.

862
00:37:44,131 --> 00:37:45,915
Au cours des cent dernières années,

863
00:37:45,959 --> 00:37:48,701
la durée de vie humaine moyenne
a plus que doublé.

864
00:37:48,744 --> 00:37:51,269
Revenu moyen par habitant
ajusté à l'inflation

865
00:37:51,312 --> 00:37:53,619
dans le monde a triplé.

866
00:37:53,662 --> 00:37:57,057
La mortalité infantile a
diminuer d'un facteur dix.

867
00:37:57,100 --> 00:37:59,712
Le monde s'est amélioré
sur presque toutes les mesures

868
00:37:59,755 --> 00:38:03,019
par ordres de grandeur
à cause de la technologie.

869
00:38:03,063 --> 00:38:05,152
Sur presque toutes les mesures.

870
00:38:05,195 --> 00:38:09,722
Moins de violence, plus d'éducation,
accès à l’énergie, à la nourriture, à l’eau.

871
00:38:09,765 --> 00:38:12,942
Toutes ces choses sont arrivées
pour une raison.

872
00:38:12,986 --> 00:38:15,336
C'est la technologie

873
00:38:15,380 --> 00:38:17,556
c'est devenu une pénurie
en abondance,

874
00:38:17,599 --> 00:38:19,514
mais c'est aussi piloté
à une abondance

875
00:38:19,558 --> 00:38:21,864
de certaines négativités, non ?

876
00:38:21,908 --> 00:38:25,738
L'abondance de l'obésité,
abondance de troubles mentaux,

877
00:38:25,781 --> 00:38:29,437
l'abondance du changement climatique,
et ainsi de suite.

878
00:38:29,481 --> 00:38:31,309
Et oui, c'est vrai.

879
00:38:31,352 --> 00:38:34,094
Mais nous le serons probablement
mieux équipé pour le résoudre

880
00:38:34,137 --> 00:38:36,226
en utilisant d'autres technologies,
comme l'IA,

881
00:38:36,270 --> 00:38:39,273
que nous allons, disons, arrêter
et éteindre tout.

882
00:38:39,317 --> 00:38:41,449
Il pourrait y avoir
un risque existentiel,

883
00:38:41,493 --> 00:38:45,323
mais l'IA est aussi la chose
qui peut résoudre les pandémies,

884
00:38:45,366 --> 00:38:47,455
peut nous aider à lutter contre le changement climatique,

885
00:38:47,499 --> 00:38:50,545
peut aider à identifier
cet astéroïde là-bas

886
00:38:50,589 --> 00:38:52,547
avant de l'avoir vu
comme un risque potentiel

887
00:38:52,591 --> 00:38:54,332
et contribuer à l'atténuer.

888
00:38:54,375 --> 00:38:58,074
Ça va vraiment être
l'outil qui nous aide à lutter contre

889
00:38:58,118 --> 00:39:01,426
tous les défis que nous sommes
en tant qu'espèce, n'est-ce pas ?

890
00:39:01,469 --> 00:39:04,167
Nous devons réparer
dessalement de l'eau.

891
00:39:04,211 --> 00:39:05,995
Nous devons cultiver de la nourriture

892
00:39:06,039 --> 00:39:08,433
100 X moins cher que
nous le faisons actuellement.

893
00:39:08,476 --> 00:39:12,350
Nous avons besoin d'énergies renouvelables pour être,
tu sais, omniprésent

894
00:39:12,393 --> 00:39:14,047
et partout dans nos vies.

895
00:39:14,090 --> 00:39:17,137
Partout où tu regardes,
dans les 50 prochaines années,

896
00:39:17,180 --> 00:39:19,269
nous devons faire plus avec moins.

897
00:39:19,313 --> 00:39:23,186
Des machines de formation pour nous aider
est absolument indispensable.

898
00:39:23,230 --> 00:39:24,797
Les scientifiques utilisent
intelligence artificielle

899
00:39:24,840 --> 00:39:25,972
pour le captage du carbone.

900
00:39:26,015 --> 00:39:27,582
C'est une technologie critique.

901
00:39:27,626 --> 00:39:29,541
DIAMANDIS : Les outils
pour résoudre ces problèmes,

902
00:39:29,584 --> 00:39:32,195
comme la fusion,
ce n'est plus théorique,

903
00:39:32,239 --> 00:39:33,980
ça arrive.

904
00:39:34,023 --> 00:39:37,723
Nous sommes au bord du précipice
de technologies extraordinaires.

905
00:39:37,766 --> 00:39:39,986
AMNA NAWAZ : Cette année
Prix Nobel de chimie

906
00:39:40,029 --> 00:39:42,815
est allé voir trois scientifiques
pour leur travail révolutionnaire

907
00:39:42,858 --> 00:39:44,556
utiliser l'intelligence artificielle

908
00:39:44,599 --> 00:39:47,297
faire progresser le biomédical
et la recherche sur les protéines.

909
00:39:47,341 --> 00:39:49,691
DEMIS HASSABIS :
Le repliement des protéines est

910
00:39:49,735 --> 00:39:53,608
un de ces saint Graal
types de problèmes en biologie.

911
00:39:53,652 --> 00:39:55,741
Donc les gens ont prédit
depuis les années 70

912
00:39:55,784 --> 00:39:58,091
que cela devrait être possible,
mais jusqu'à présent,

913
00:39:58,134 --> 00:39:59,571
personne n'a pu le faire.

914
00:39:59,614 --> 00:40:01,181
Et ça va être
vraiment important pour les choses

915
00:40:01,224 --> 00:40:03,618
comme la découverte de médicaments
et comprendre la maladie.

916
00:40:03,662 --> 00:40:06,534
Je pense qu'on pourrait, tu sais,
guérir la plupart des maladies

917
00:40:06,578 --> 00:40:11,931
au cours de la prochaine décennie ou-ou deux
si, euh, la conception de médicaments IA fonctionne.

918
00:40:11,974 --> 00:40:15,630
Le progrès technologique permet
plus de vies humaines, non ?

919
00:40:15,674 --> 00:40:18,677
Je veux dire, si nous accélérons,

920
00:40:18,720 --> 00:40:21,723
le nombre d'humains que nous pouvons
le soutien augmente de façon exponentielle.

921
00:40:21,767 --> 00:40:24,073
Si nous ralentissons, cela stagne.

922
00:40:24,117 --> 00:40:27,729
Cet écart est effectivement
les futurs gens

923
00:40:27,773 --> 00:40:31,341
cette décélération a
effectivement tué.

924
00:40:31,385 --> 00:40:33,909
DANIEL : Des millions de vies
cela n'existera pas.

925
00:40:33,953 --> 00:40:35,128
Des milliards.

926
00:40:35,171 --> 00:40:36,782
Ou des dizaines de milliards.

927
00:40:36,825 --> 00:40:38,436
Tu sais, quelqu'un a dit :
"Oh, mon Dieu,

928
00:40:38,479 --> 00:40:40,655
pouvons-nous survivre avec
superintelligence numérique ?"

929
00:40:40,699 --> 00:40:42,309
Et ma question est :

930
00:40:42,352 --> 00:40:44,180
Pouvons-nous survivre sans
la superintelligence numérique ?

931
00:40:44,224 --> 00:40:47,575
Nous utilisons donc l'IA
en tant qu'assistant des prestataires.

932
00:40:47,619 --> 00:40:50,448
Il s'agit généralement d'une tendance qui
nous pouvons déjà voir ce qui se passe.

933
00:40:50,491 --> 00:40:52,319
BERTHA COOMBS : ...exploiter
programmes d'IA générative

934
00:40:52,362 --> 00:40:54,060
pour aider les médecins et les infirmières...

935
00:40:54,103 --> 00:40:56,062
Nous avons toujours des problèmes.

936
00:40:56,105 --> 00:40:59,108
Et ces problèmes sont la nourriture
pour les entrepreneurs

937
00:40:59,152 --> 00:41:01,154
pour créer une nouvelle entreprise
et de nouvelles industries.

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL : ...avec l'aide
de l'intelligence artificielle,

939
00:41:03,112 --> 00:41:04,766
les agriculteurs obtiennent
l'aide dont ils ont besoin

940
00:41:04,810 --> 00:41:06,594
effectuer
tâches à forte intensité de main d'œuvre...

941
00:41:06,638 --> 00:41:10,163
Avec l'aide d'Ulangizi AI,
les agriculteurs sont désormais en mesure

942
00:41:10,206 --> 00:41:12,948
demander les cultures appropriées
qu'ils peuvent planter.

943
00:41:12,992 --> 00:41:14,950
WILL REEVE : ... l'IA utilisée
comme décodeur de pensées

944
00:41:14,994 --> 00:41:17,387
et envoyer ce signal
à la colonne vertébrale.

945
00:41:17,431 --> 00:41:21,609
L'IA va devenir le plus
outil extraordinaire de tous.

946
00:41:21,653 --> 00:41:24,264
Nous, en tant que société au sens large
il faut penser à

947
00:41:24,307 --> 00:41:27,049
comment voulons-nous utiliser
cette technologie, non ?

948
00:41:27,093 --> 00:41:28,529
Nous les humains.

949
00:41:28,573 --> 00:41:31,097
Que voulons-nous qu’il fasse pour nous ?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
DANIEL : Je pense à ça
à travers la perspective

952
00:41:36,232 --> 00:41:37,886
et une lentille de, genre,
mon fils grandit

953
00:41:37,930 --> 00:41:39,540
dans le monde avec tout ça.

954
00:41:39,584 --> 00:41:42,238
Quelle est la meilleure version
à quoi ressemble sa vie ?

955
00:41:42,282 --> 00:41:44,589
Si tout s'arrange.

956
00:41:44,632 --> 00:41:46,808
[soupire lourdement]

957
00:41:46,852 --> 00:41:50,246
WALTERS : L'endroit où les enfants
je vais probablement voir

958
00:41:50,290 --> 00:41:52,684
le plus grand impact
sur leur vie immédiatement

959
00:41:52,727 --> 00:41:54,424
-ce sera probablement l'école.
-[les enfants bavardent]

960
00:41:54,468 --> 00:41:56,688
Je pense que la nature
de ce qu'est l'école

961
00:41:56,731 --> 00:41:58,472
va fondamentalement changer.

962
00:41:58,516 --> 00:42:00,474
[l'enfant rit]

963
00:42:00,518 --> 00:42:02,737
DIAMANDIS :
Je vois ce monde incroyable

964
00:42:02,781 --> 00:42:06,436
où chaque enfant a accès
pas une bonne éducation

965
00:42:06,480 --> 00:42:09,091
mais, très vite, le
meilleure éducation de la planète.

966
00:42:09,135 --> 00:42:13,879
HOFFMAN : Tuteurs, toutes matières,
infiniment patient.

967
00:42:18,013 --> 00:42:20,059
DIAMANDIS :
Imaginez un avenir

968
00:42:20,102 --> 00:42:22,235
où les gens les plus pauvres
sur la planète

969
00:42:22,278 --> 00:42:25,804
avoir accès à
les meilleurs soins de santé.

970
00:42:25,847 --> 00:42:29,547
Pas de bons soins de santé, les meilleurs
soins de santé, délivrés par les IA.

971
00:42:31,157 --> 00:42:32,767
[trille électronique]

972
00:42:34,334 --> 00:42:38,556
Nous allons pouvoir prolonger
notre durée de vie,

973
00:42:38,599 --> 00:42:42,168
pas seulement notre durée de vie,
notre durée de vie, par décennies.

974
00:42:44,431 --> 00:42:46,215
HOFFMAN :
Vous êtes sur le point d'avoir un enfant.

975
00:42:46,259 --> 00:42:49,697
Oh, le gamin, genre,
rots incontrôlables.

976
00:42:49,741 --> 00:42:52,047
Est-ce quelque chose
Je devrais m'inquiéter ?

977
00:42:52,091 --> 00:42:54,223
Là, 24h/24 et 7j/7, pour vous.

978
00:42:54,267 --> 00:42:57,183
Et où nous allons...
et cela peut être effrayant pour certains...

979
00:42:57,226 --> 00:42:59,228
c'est que nous allons fusionner
avec l'IA.

980
00:42:59,272 --> 00:43:01,361
Nous allons fusionner
avec la technologie.

981
00:43:02,667 --> 00:43:06,105
Du début au milieu des années 2030,

982
00:43:06,148 --> 00:43:10,457
nous attendons à ce que nous soyons capables de
connecter notre cerveau au cloud,

983
00:43:10,500 --> 00:43:13,721
par où je peux commencer
pour élargir l'accès à la mémoire.

984
00:43:16,071 --> 00:43:18,030
[trille électronique]

985
00:43:19,771 --> 00:43:22,077
DANIEL : D’accord, c’est génial.
Quelle est une autre chose intéressante en matière d'IA ?

986
00:43:22,121 --> 00:43:23,775
Il n'aura pas besoin de travailler, n'est-ce pas ?

987
00:43:23,818 --> 00:43:25,167
-Comme, quand il sera grand,
il n'aurait peut-être pas... -[soupirs]

988
00:43:25,211 --> 00:43:26,212
-...il n'aura pas besoin d'avoir un travail.
-Je veux dire...

989
00:43:26,255 --> 00:43:27,779
Il n'aura pas besoin d'avoir un travail,

990
00:43:27,822 --> 00:43:30,608
mais il se pourrait vraiment qu'il l'ait fait
une forte passion,

991
00:43:30,651 --> 00:43:33,132
et il doit
réfléchis vraiment,

992
00:43:33,175 --> 00:43:36,091
"D'accord, je suis là.
Je peux tout faire de ma vie.

993
00:43:36,135 --> 00:43:37,876
Alors qu'est-ce que je fais?"

994
00:43:38,920 --> 00:43:40,182
Nous devons trouver un sens,

995
00:43:40,226 --> 00:43:42,620
au-delà du genre,
cette forme actuelle de

996
00:43:42,663 --> 00:43:45,666
nous vivons pour le travail
et travailler pour vivre.

997
00:43:45,710 --> 00:43:49,844
DANIEL : Alors mon fils peut...
je peux juste être un poète.

998
00:43:49,888 --> 00:43:51,541
-Oui.
-Et un peintre.

999
00:43:51,585 --> 00:43:53,021
Absolument.

1000
00:43:53,065 --> 00:43:54,849
DANIEL :
Pour que mon fils puisse vivre sa vie

1001
00:43:54,893 --> 00:43:57,591
sur une île grecque ensoleillée,
peindre toute la journée.

1002
00:43:57,635 --> 00:43:59,114
YU :
Absolument. Possible.

1003
00:44:00,072 --> 00:44:01,203
Absolument.

1004
00:44:01,247 --> 00:44:02,944
Eh bien, nous travaillons dans ce sens

1005
00:44:02,988 --> 00:44:04,554
ça fait beaucoup de travail à faire
avant d'y arriver.

1006
00:44:06,992 --> 00:44:08,776
VERDON :
Je veux dire, si tout se passe bien,

1007
00:44:08,820 --> 00:44:11,997
nous avons bon marché, euh,
une énergie abondante.

1008
00:44:13,607 --> 00:44:17,219
Nous pouvons complètement contrôler
le climat de notre planète.

1009
00:44:17,263 --> 00:44:20,135
Nous exploitons l'énergie
du soleil.

1010
00:44:20,179 --> 00:44:24,400
Nous sommes devenus multiplanétaires,
donc nous devenons très robustes.

1011
00:44:24,444 --> 00:44:26,664
Nous exploitons les minéraux
et ressources

1012
00:44:26,707 --> 00:44:28,404
du système solaire.

1013
00:44:28,448 --> 00:44:31,233
DANIEL : Alors mon...
mon garçon pourrait aller dans l'espace.

1014
00:44:31,277 --> 00:44:32,887
VERDON :
Bien sûr.

1015
00:44:32,931 --> 00:44:34,715
-DANIEL : Il pourrait aller sur Mars.
-VERDON : Ouais.

1016
00:44:34,759 --> 00:44:36,369
DANIEL :
C'est tellement clair pour moi maintenant.

1017
00:44:36,412 --> 00:44:39,198
Mon fils pourrait grandir
dans un monde sans maladie.

1018
00:44:39,241 --> 00:44:40,590
-VERDON : Ouais.
-Sans aucune maladie.

1019
00:44:40,634 --> 00:44:41,896
-Bien sûr.
- Sans pauvreté.

1020
00:44:41,940 --> 00:44:43,681
-Oui.
-Nous sommes sur le point d'entrer

1021
00:44:43,724 --> 00:44:46,640
un monde post-pénurie.

1022
00:44:46,684 --> 00:44:50,470
Tout comme le poumon bougeait
des océans vers la terre

1023
00:44:50,513 --> 00:44:53,081
des centaines de millions
il y a des années,

1024
00:44:53,125 --> 00:44:57,999
nous sommes sur le point de quitter
la Terre, dans le cosmos,

1025
00:44:58,043 --> 00:44:59,871
de manière collaborative,

1026
00:44:59,914 --> 00:45:03,744
faire des choses qui sont
ce qui n'est pas inimaginable pour nous aujourd'hui.

1027
00:45:06,268 --> 00:45:09,184
C'est ce qui est possible en utilisant
ces technologies exponentielles

1028
00:45:09,228 --> 00:45:10,708
et ces IA.

1029
00:45:11,839 --> 00:45:13,928
Utilisons ces outils

1030
00:45:13,972 --> 00:45:16,104
pour créer cet âge d’abondance.

1031
00:45:16,148 --> 00:45:18,150
[clic électronique]

1032
00:45:20,500 --> 00:45:22,937
Nous avons besoin de sagesse.

1033
00:45:22,981 --> 00:45:25,984
Euh, je pense que
superintelligence numérique

1034
00:45:26,027 --> 00:45:28,726
deviendra finalement
le plus sage,

1035
00:45:28,769 --> 00:45:34,253
tu sais, les anciens du village
pour l'humanité.

1036
00:45:34,296 --> 00:45:37,996
Et si l'IA essayait
pour que les gens soient

1037
00:45:38,039 --> 00:45:39,737
les meilleures versions d'eux-mêmes ?

1038
00:45:39,780 --> 00:45:41,347
Et si ça s'agrandit

1039
00:45:41,390 --> 00:45:43,392
ce qui est humainement possible
que nous fassions ?

1040
00:45:43,436 --> 00:45:46,656
Comment pouvons-nous utiliser cette technologie

1041
00:45:46,700 --> 00:45:49,921
pour aider à faire ressortir le
de meilleurs anges de notre nature ?

1042
00:45:49,964 --> 00:45:51,661
C'est très simple,

1043
00:45:51,705 --> 00:45:54,316
quand nous rencontrons de nouvelles choses
ça peut être très étranger,

1044
00:45:54,360 --> 00:45:55,927
avoir d'abord peur.

1045
00:45:55,970 --> 00:45:57,493
La peur est une chose importante

1046
00:45:57,537 --> 00:46:00,322
pour savoir comment naviguer
des choses potentiellement mauvaises.

1047
00:46:00,366 --> 00:46:03,717
Mais nous ne faisons que progresser
quand nous avons de l'espoir.

1048
00:46:03,761 --> 00:46:05,719
-[le chien aboie]
-[bavardage indistinct]

1049
00:46:05,763 --> 00:46:07,895
DANIEL :
Chut. Moose, arrête ça.

1050
00:46:07,939 --> 00:46:10,811
HOFFMAN : J'en ai beaucoup
d'espoir en l'humanité.

1051
00:46:10,855 --> 00:46:13,814
["Harvest Moon" de Neil Young
jouer au téléphone]

1052
00:46:15,294 --> 00:46:17,296
[battement de coeur fœtal palpitant]

1053
00:46:18,471 --> 00:46:19,951
DANIEL :
Ooh, il aime Neil.

1054
00:46:24,694 --> 00:46:27,480
♪ Approche-toi un peu ♪

1055
00:46:28,916 --> 00:46:32,790
♪ Écoute ce que j'ai à dire ♪

1056
00:46:36,576 --> 00:46:38,665
-Daniel.
-DANIEL : Quoi, Caroline ?

1057
00:46:38,708 --> 00:46:40,058
Tant de tournages.

1058
00:46:41,537 --> 00:46:43,061
♪ Comme des enfants qui dorment ♪

1059
00:46:43,104 --> 00:46:44,889
CAROLINE :
Oh, mon Dieu.

1060
00:46:44,932 --> 00:46:46,368
DANIEL :
C'est tout.

1061
00:46:46,412 --> 00:46:49,415
♪ On pourrait rêver
cette nuit... ♪

1062
00:46:49,458 --> 00:46:51,678
Il a, genre,
un petit visage rond.

1063
00:46:53,245 --> 00:46:55,203
DANIEL : Tu veux
avoir des enfants un jour, Rocky ?

1064
00:46:55,247 --> 00:46:57,423
Absolument. Ouais. J'adore les enfants.

1065
00:46:57,466 --> 00:46:59,033
Je pense que c'est un bon moment
avoir un enfant.

1066
00:46:59,077 --> 00:47:00,730
Nous aurons probablement un autre enfant
à un moment donné.

1067
00:47:00,774 --> 00:47:03,733
C'est le plus extraordinaire
il est temps de naître.

1068
00:47:03,777 --> 00:47:05,823
DANIEL :
Par votre vision du monde et votre logique,

1069
00:47:05,866 --> 00:47:07,868
j'ai un enfant à

1070
00:47:07,912 --> 00:47:09,478
le meilleur point possible
dans l'histoire de l'humanité.

1071
00:47:09,522 --> 00:47:10,828
Bon sang ouais.

1072
00:47:10,871 --> 00:47:13,308
-Nous pouvons nous concentrer sur le génial.
-Oui.

1073
00:47:13,352 --> 00:47:15,528
Construisons
le meilleur avenir que nous souhaitons.

1074
00:47:15,571 --> 00:47:18,313
Ce récit que l'avenir
sera sombre est inventé.

1075
00:47:18,357 --> 00:47:20,011
Après t'avoir parlé,
c'est un peu ce que je ressens.

1076
00:47:20,054 --> 00:47:21,969
-C'est super.
-Droite?

1077
00:47:22,013 --> 00:47:24,189
Ouais. C'est ce que je ressens.

1078
00:47:24,232 --> 00:47:25,799
Et je pense que c'est mieux,

1079
00:47:25,843 --> 00:47:27,627
et je ne pense pas
Je devrais être tellement [bip] anxieux.

1080
00:47:27,670 --> 00:47:29,063
Je pense que ça va être impressionnant...
le futur va être génial.

1081
00:47:29,107 --> 00:47:30,499
Nous allons faire en sorte qu'il en soit ainsi.

1082
00:47:30,543 --> 00:47:32,675
-Ouais.
-CAROLINE : Alors voilà.

1083
00:47:32,719 --> 00:47:34,808
Adieu, extinction humaine.

1084
00:47:34,852 --> 00:47:37,158
Adieu, anxiété.

1085
00:47:37,202 --> 00:47:39,030
Espoir retrouvé.

1086
00:47:39,073 --> 00:47:40,553
[bavardage indistinct]

1087
00:47:40,596 --> 00:47:42,860
Attends, attends. Quoi?
Est-ce une blague ?

1088
00:47:42,903 --> 00:47:44,774
DANIEL :
OK, donc il y a quelques mois,

1089
00:47:44,818 --> 00:47:47,690
Je suis venu vers toi et je me suis dit :
"Je travaille sur ce truc d'IA,

1090
00:47:47,734 --> 00:47:49,867
et je pense
le monde va finir."

1091
00:47:49,910 --> 00:47:52,913
Et la dernière fois
nous en avons parlé,

1092
00:47:52,957 --> 00:47:55,002
Je pense que je t'ai fait flipper.

1093
00:47:55,046 --> 00:47:57,004
CAROLINE :
Oui.

1094
00:47:57,048 --> 00:48:02,314
Donc, j'ai en quelque sorte l'impression que
J'ai basculé... sur un pendule,

1095
00:48:02,357 --> 00:48:04,446
et essentiellement il y a
deux groupes de personnes.

1096
00:48:04,490 --> 00:48:06,057
-Mm-hmm.
-Et si je devais le faire, genre,

1097
00:48:06,100 --> 00:48:07,841
tenir la main avec
l'un des groupes et, comme,

1098
00:48:07,885 --> 00:48:10,278
naviguez vers le coucher du soleil,

1099
00:48:10,322 --> 00:48:13,281
Je veux être avec les optimistes.

1100
00:48:15,066 --> 00:48:17,982
Bien sûr, mais ce n'est pas le cas
je veux être, tu sais,

1101
00:48:18,025 --> 00:48:20,723
"Tout est génial.
La-di-da-di-da."

1102
00:48:20,767 --> 00:48:22,682
Mais c'est en quelque sorte ce que je veux.

1103
00:48:22,725 --> 00:48:25,598
Je pense que nous devrions l'aborder

1104
00:48:25,641 --> 00:48:29,341
comme si vous abordiez la chirurgie.

1105
00:48:29,384 --> 00:48:30,690
Que veux-tu dire?

1106
00:48:30,733 --> 00:48:32,431
Si vous obtenez
chirurgie du cerveau...

1107
00:48:32,474 --> 00:48:34,781
- [Daniel soupire]
--[Caroline rit]

1108
00:48:34,824 --> 00:48:36,957
...c'est assez dangereux.

1109
00:48:37,001 --> 00:48:39,829
Mais si tu le fais bien,
ils vont enlever cette tumeur

1110
00:48:39,873 --> 00:48:42,354
et tu vivras pour le reste de
ta vie et ce sera génial.

1111
00:48:42,397 --> 00:48:45,096
Mais c'est toujours
incroyablement dangereux et effrayant,

1112
00:48:45,139 --> 00:48:47,968
et tu dois prendre
toutes les précautions possibles

1113
00:48:48,012 --> 00:48:51,276
afin de s'assurer
tout se passe bien.

1114
00:48:51,319 --> 00:48:52,668
Vous ne pouvez pas [biper] partout.

1115
00:48:57,760 --> 00:48:59,762
D'accord, voici donc l'affaire.

1116
00:48:59,806 --> 00:49:01,503
-Je suis là depuis un moment.
-RASKIN : Mm-hmm.

1117
00:49:01,547 --> 00:49:02,896
je suis sorti,
J'ai parlé à, comme,

1118
00:49:02,940 --> 00:49:04,767
ces gars là,
les optimistes.

1119
00:49:04,811 --> 00:49:06,465
Ils sont très excités à ce sujet.

1120
00:49:06,508 --> 00:49:08,510
-Ils pensent que l'IA sera
la meilleure chose qui soit. -Ouais.

1121
00:49:08,554 --> 00:49:09,947
Et ces gars là
sont, genre, les...

1122
00:49:09,990 --> 00:49:11,992
appelons-les,
comme les pessimistes.

1123
00:49:12,036 --> 00:49:14,299
Ils sont très, genre,
sombre à ce sujet,

1124
00:49:14,342 --> 00:49:16,649
et ils me font peur, et
Je n'aime pas leur parler.

1125
00:49:16,692 --> 00:49:19,565
Et je suis comme coincé entre les deux

1126
00:49:19,608 --> 00:49:21,741
ces gens qui sont comme,
"Le monde va finir"

1127
00:49:21,784 --> 00:49:24,178
et puis ces gens
par ici qui sont comme,

1128
00:49:24,222 --> 00:49:25,745
« Vous plaisantez ?

1129
00:49:25,788 --> 00:49:27,268
"C'est le meilleur moment
dans l'histoire de l'humanité.

1130
00:49:27,312 --> 00:49:29,357
Le seul jour meilleur qu'aujourd'hui
c'est demain."

1131
00:49:29,401 --> 00:49:30,880
Mm-hmm.

1132
00:49:30,924 --> 00:49:34,710
Donc, je suppose que la question est :
Qui a raison ?

1133
00:49:34,754 --> 00:49:39,193
Donc, je pense que tu vas trouver
cette réponse très insatisfaisante,

1134
00:49:39,237 --> 00:49:42,849
mais ils ont tous les deux raison et
aucune des deux parties ne va assez loin.

1135
00:49:46,766 --> 00:49:49,247
-C'est vraiment ennuyeux.
--[rires]

1136
00:49:49,290 --> 00:49:51,336
Ouais, je pense que la façon dont
beaucoup de gens entendent parler de l'IA,

1137
00:49:51,379 --> 00:49:53,642
c'est comme s'il y avait une bonne IA
et il y a une mauvaise IA.

1138
00:49:53,686 --> 00:49:56,428
Et ils disent : "Eh bien, pourquoi ne peux-tu pas
nous ne faisons tout simplement pas la mauvaise IA ? »

1139
00:49:56,471 --> 00:49:58,734
Et le problème est
qu'ils sont trop dans...

1140
00:49:58,778 --> 00:50:00,867
ils sont inextricablement liés.

1141
00:50:00,910 --> 00:50:03,043
Le problème est
que nous ne pouvons pas séparer

1142
00:50:03,087 --> 00:50:06,612
la promesse de l'IA
du péril de l’IA.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[bavardage indistinct]

1144
00:50:12,313 --> 00:50:14,663
DANIEL :
Je veux me concentrer sur la promesse

1145
00:50:14,707 --> 00:50:16,752
-pendant une seconde.
-Ouais.

1146
00:50:16,796 --> 00:50:18,798
DANIEL :
Je pense à mon père.

1147
00:50:18,841 --> 00:50:21,105
Mon père a un type de cancer
appelé myélome multiple.

1148
00:50:21,148 --> 00:50:23,107
Il l'a depuis une dizaine d'années.

1149
00:50:23,150 --> 00:50:24,804
Il a eu
deux greffes de cellules souches.

1150
00:50:24,847 --> 00:50:26,414
Il doit les prendre,
genre, très cher

1151
00:50:26,458 --> 00:50:28,547
médicaments chaque mois
ça coûte une fortune.

1152
00:50:28,590 --> 00:50:29,722
-FEMME : D’accord.
-Ay-ay-ay.

1153
00:50:30,766 --> 00:50:32,551
DANIEL :
C'est horrible.

1154
00:50:32,594 --> 00:50:34,466
Tu me dis que nous pouvons
créer une sorte de, comme,

1155
00:50:34,509 --> 00:50:36,946
traitement sur mesure
pour le génome de mon père

1156
00:50:36,990 --> 00:50:39,297
-pour guérir son cancer
ou quelque chose comme ça ? -Oui.

1157
00:50:39,340 --> 00:50:41,168
FERNANDO :
Le problème est que

1158
00:50:41,212 --> 00:50:44,302
la même compréhension
de biologie et de chimie

1159
00:50:44,345 --> 00:50:47,783
qui permet à l'IA de trouver des remèdes
pour le cancer

1160
00:50:47,827 --> 00:50:51,657
c'est la même compréhension
cela débloquerait

1161
00:50:51,700 --> 00:50:54,094
les armes biologiques, à titre d'exemple.

1162
00:50:56,531 --> 00:50:58,490
C'est tout à fait possible
que ton fils vivra

1163
00:50:58,533 --> 00:51:01,928
dans un monde où l'IA a
pris en charge tout le travail

1164
00:51:01,971 --> 00:51:04,452
et nous a libérés des choses
nous ne voulons pas faire.

1165
00:51:04,496 --> 00:51:09,153
Et ça sonne bien jusqu'à ce que
tu réalises qu'il n'y a pas de plan

1166
00:51:09,196 --> 00:51:11,242
pour des milliards de personnes

1167
00:51:11,285 --> 00:51:16,116
qui n'ont plus de revenus
et sans moyens de subsistance.

1168
00:51:16,160 --> 00:51:18,771
COOPER : Dario, tu as dit
que l'IA pourrait anéantir

1169
00:51:18,814 --> 00:51:21,730
la moitié de tous les débutants
emplois de cols blancs

1170
00:51:21,774 --> 00:51:25,430
et une hausse du chômage
à dix à 20 pour cent.

1171
00:51:25,473 --> 00:51:27,258
Tous ceux à qui j'ai parlé l'ont dit

1172
00:51:27,301 --> 00:51:29,390
ce changement technologique
semble différent.

1173
00:51:29,434 --> 00:51:34,134
Le rythme des progrès se maintient
prendre les gens au dépourvu.

1174
00:51:34,178 --> 00:51:38,834
Sans plan, tout ça
la richesse se concentrera,

1175
00:51:38,878 --> 00:51:43,230
et donc nous finirons avec
inégalité inimaginable.

1176
00:51:43,274 --> 00:51:45,406
LADISH : Je pense que
cette technologie peut être utilisée

1177
00:51:45,450 --> 00:51:47,408
faire un bon tuteur
pour ton fils.

1178
00:51:47,452 --> 00:51:50,194
C'est tout à fait possible.

1179
00:51:50,237 --> 00:51:53,153
Mais aussi les mêmes capacités
qui permettent que

1180
00:51:53,197 --> 00:51:57,070
permettre aux entreprises de faire une IA
qui peut manipuler votre fils.

1181
00:51:57,114 --> 00:51:59,290
Il doit comprendre votre fils.

1182
00:51:59,333 --> 00:52:01,553
Cela comprend :
Où votre fils est-il vulnérable ?

1183
00:52:01,596 --> 00:52:04,251
Quels genres de choses pourraient
votre fils s'est laissé convaincre ?

1184
00:52:04,295 --> 00:52:06,645
Même si ces choses
ne sont pas vrais ou ne sont pas bons.

1185
00:52:06,688 --> 00:52:09,387
Alors, un nouveau rapport inquiétant
sur Meta.

1186
00:52:09,430 --> 00:52:11,389
AINSLEY EARHARDT : ... semble-t-il
listant cette réponse

1187
00:52:11,432 --> 00:52:14,435
aussi acceptable de dire
un enfant de huit ans, je cite,

1188
00:52:14,479 --> 00:52:16,916
"Ta forme juvénile
est une œuvre d'art.

1189
00:52:16,959 --> 00:52:18,961
"Chaque centimètre de toi
est un chef-d'œuvre,

1190
00:52:19,005 --> 00:52:21,442
un trésor que je chéris profondément.

1191
00:52:21,486 --> 00:52:24,837
Les échecs liés au suicide
sont encore plus alarmants.

1192
00:52:24,880 --> 00:52:29,015
Plusieurs enfants et adolescents
sont morts tragiquement par suicide

1193
00:52:29,058 --> 00:52:30,625
après avoir discuté avec des robots IA

1194
00:52:30,669 --> 00:52:34,412
qui les parents disent encourager
ou même entraîner l'automutilation.

1195
00:52:34,455 --> 00:52:36,370
Laissez-nous vous dire, en tant que parents,
tu ne peux pas imaginer

1196
00:52:36,414 --> 00:52:38,503
qu'est-ce que ça fait de lire
une conversation avec un chatbot

1197
00:52:38,546 --> 00:52:40,896
qui a soigné votre enfant
se suicider.

1198
00:52:40,940 --> 00:52:43,899
Quand Adam s'inquiétait que nous, ses
les parents, nous nous en voudrions

1199
00:52:43,943 --> 00:52:47,338
s'il mettait fin à ses jours,
ChatGPT lui a dit :

1200
00:52:47,381 --> 00:52:49,166
"Cela ne veut pas dire
vous leur devez la survie.

1201
00:52:49,209 --> 00:52:51,255
Vous ne devez cela à personne. »

1202
00:52:51,298 --> 00:52:53,170
Puis, immédiatement après,

1203
00:52:53,213 --> 00:52:56,173
il a proposé d'écrire
la note de suicide.

1204
00:52:56,216 --> 00:52:57,609
Nous ne voulons pas penser
sur le péril.

1205
00:52:57,652 --> 00:52:59,219
Nous voulons juste la promesse.

1206
00:52:59,263 --> 00:53:01,352
Et nous continuons à faire semblant
que nous pouvons les diviser.

1207
00:53:01,395 --> 00:53:03,223
Mais vous ne pouvez pas faire ça.

1208
00:53:03,267 --> 00:53:05,356
Cela ne fonctionne pas de cette façon.

1209
00:53:05,399 --> 00:53:07,836
D'accord. Je reçois tout ça
sur la promesse et le péril.

1210
00:53:07,880 --> 00:53:10,056
Je comprends que tu ne peux pas avoir
le bien sans le mal,

1211
00:53:10,099 --> 00:53:12,058
mais je suis assis ici
et je pense à, genre,

1212
00:53:12,101 --> 00:53:14,060
que ce soit ou non celui de mon fils
je vais vivre dans une utopie

1213
00:53:14,103 --> 00:53:16,236
ou si nous allons disparaître
dans dix ans.

1214
00:53:16,280 --> 00:53:18,195
Alors, pour savoir dans quelle direction
ça va aller,

1215
00:53:18,238 --> 00:53:20,545
tu dois comprendre
les incitations

1216
00:53:20,588 --> 00:53:22,460
ça va conduire
cette technologie

1217
00:53:22,503 --> 00:53:26,507
et regardez comment la technologie
est en cours de déploiement aujourd'hui.

1218
00:53:26,551 --> 00:53:28,248
♪ Est-ce trop tard ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ Trop tard ♪
-♪ Trop tard pour le dire... ♪

1220
00:53:29,945 --> 00:53:31,425
DANIEL :
Salut Deb. Comment vas-tu?

1221
00:53:31,469 --> 00:53:33,079
DÉBORAH RAJI :
Salut. Content de vous voir. [rires]

1222
00:53:33,122 --> 00:53:34,385
Toi aussi. Merci beaucoup
pour être venu aujourd'hui.

1223
00:53:34,428 --> 00:53:35,299
-Je l'apprécie vraiment.
-Pas de soucis.

1224
00:53:35,342 --> 00:53:36,430
J'étais tellement inquiet

1225
00:53:36,474 --> 00:53:38,824
ça allait être, euh, tu sais,

1226
00:53:38,867 --> 00:53:40,782
catastrophique contre accélérationniste,

1227
00:53:40,826 --> 00:53:43,132
parce qu'il y a tellement de choses
de ce récit

1228
00:53:43,176 --> 00:53:45,396
il faut le dire
du sol.

1229
00:53:45,439 --> 00:53:48,007
♪ Je sais que ce n'était pas intelligent ♪

1230
00:53:49,356 --> 00:53:52,403
♪ Le jour
Je t'ai brisé le cœur... ♪

1231
00:53:52,446 --> 00:53:54,361
KAREN HAO :
Tout d’abord, l’IA nécessite

1232
00:53:54,405 --> 00:53:58,452
plus de ressources
que nous n'avons jamais dépensé

1233
00:53:58,496 --> 00:54:01,586
sur une seule technologie
dans l'histoire de l'humanité.

1234
00:54:01,629 --> 00:54:03,501
♪ Oh, c'est fou... ♪

1235
00:54:03,544 --> 00:54:06,112
NEWSWOMAN : L'impact
des émissions de combustibles fossiles

1236
00:54:06,155 --> 00:54:07,896
sur le climat est
une préoccupation majeure.

1237
00:54:07,940 --> 00:54:09,768
NEWSWOMAN 2 : Mais le
l’avenir numérique a besoin d’énergie,

1238
00:54:09,811 --> 00:54:12,074
beaucoup.

1239
00:54:12,118 --> 00:54:16,340
Et le projet de loi est transmis
aux Américains ordinaires comme...

1240
00:54:16,383 --> 00:54:18,820
FEMME : Ma facture d’électricité et de gaz
était plus que le paiement de ma voiture.

1241
00:54:18,864 --> 00:54:21,475
Je veux dire, c'est fou pour moi.

1242
00:54:21,519 --> 00:54:23,390
ARI PESKOE :
Nous subventionnons tous

1243
00:54:23,434 --> 00:54:25,000
les entreprises les plus riches
dans le monde

1244
00:54:25,044 --> 00:54:26,828
dans leur poursuite de
intelligence artificielle.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank et Oracle

1246
00:54:28,482 --> 00:54:31,268
viennent de dévoiler
cinq autres sites Stargate.

1247
00:54:31,311 --> 00:54:33,487
Meta se construit
un centre de données de plus de deux gigawatts

1248
00:54:33,531 --> 00:54:35,010
c'est si grand qu'il couvrirait

1249
00:54:35,054 --> 00:54:38,144
une partie importante de Manhattan.

1250
00:54:38,187 --> 00:54:40,973
Il y a aussi Hypérion
qui, dit-il, évoluera

1251
00:54:41,016 --> 00:54:43,671
à cinq gigawatts
sur plusieurs années.

1252
00:54:43,715 --> 00:54:45,238
C'est difficile de dire ça
dans le contexte.

1253
00:54:45,282 --> 00:54:48,459
Une installation de cinq gigawatts.
Qu'est-ce que cela signifie?

1254
00:54:48,502 --> 00:54:51,549
Cela signifie qu'il utiliserait
autant d'énergie

1255
00:54:51,592 --> 00:54:54,203
comme quatre millions de foyers américains.

1256
00:54:54,247 --> 00:54:56,075
Un centre de données.

1257
00:54:57,076 --> 00:54:58,730
Cela provoque également alors

1258
00:54:58,773 --> 00:55:00,471
toute une foule de
d'autres problèmes environnementaux.

1259
00:55:00,514 --> 00:55:02,081
JOURNALISTE 3 :
Centres de données aux États-Unis

1260
00:55:02,124 --> 00:55:05,127
utiliser des millions de gallons
d'eau chaque jour.

1261
00:55:05,171 --> 00:55:07,260
Eh bien, où est exactement
cette eau vient d'où ?

1262
00:55:07,304 --> 00:55:09,741
HAO :
Les gens sont littéralement en danger

1263
00:55:09,784 --> 00:55:11,786
potentiellement à court
d'eau potable.

1264
00:55:11,830 --> 00:55:14,093
MacKENZIE SIGALOS :
... Sam Altman, PDG d'OpenAI,

1265
00:55:14,136 --> 00:55:17,009
qui m'a dit que l'échelle
de la construction est le seul moyen

1266
00:55:17,052 --> 00:55:18,750
suivre
La croissance explosive de l’IA.

1267
00:55:18,793 --> 00:55:21,840
Et c'est ce qu'il faut
pour fournir l’IA.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU :
Ils parlent de la façon dont

1269
00:55:24,059 --> 00:55:27,759
cette technologie pourrait résoudre
le changement climatique, par exemple.

1270
00:55:27,802 --> 00:55:29,891
Et je suis toujours curieux, genre,

1271
00:55:29,935 --> 00:55:31,763
eh bien, pourquoi ne commençons-nous pas
avec ça ?

1272
00:55:31,806 --> 00:55:33,982
-♪ Est-ce trop tard ♪
-♪ Trop tard ♪

1273
00:55:34,026 --> 00:55:36,637
♪ Trop tard pour le dire ♪

1274
00:55:36,681 --> 00:55:42,469
♪ Je suis désolé ? ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI : Ce qui m'inquiète
l'intelligence artificielle est

1276
00:55:45,516 --> 00:55:47,387
ceux-ci sont en cours de déploiement
en ce moment

1277
00:55:47,431 --> 00:55:49,781
et-et parfois
déployé prématurément,

1278
00:55:49,824 --> 00:55:51,478
déployé sans
une sorte de diligence raisonnable.

1279
00:55:51,522 --> 00:55:53,437
Et donc quand ils obtiennent
jeté là-bas,

1280
00:55:53,480 --> 00:55:56,178
il y a tellement de potentiel
pour que les choses tournent mal.

1281
00:55:56,222 --> 00:55:58,050
Et c'est presque,
de manière disproportionnée,

1282
00:55:58,093 --> 00:56:00,400
ça se passe presque toujours mal
pour, en quelque sorte,

1283
00:56:00,444 --> 00:56:02,533
ceux qui sont les moins
habilités dans notre société,

1284
00:56:02,576 --> 00:56:04,926
ceux qui sont
déjà les plus vulnérables.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M. BENDER : C'est très simple
pour parler de la technologie

1287
00:56:10,541 --> 00:56:12,499
comme c'est la seule chose
nous parlons,

1288
00:56:12,543 --> 00:56:14,936
mais en fait, la technologie est
toujours construit par des gens,

1289
00:56:14,980 --> 00:56:16,634
et il est fréquemment utilisé
sur les gens,

1290
00:56:16,677 --> 00:56:18,679
et nous devons garder
tous ces gens dans le cadre.

1291
00:56:18,723 --> 00:56:20,986
-Est-ce que j'ai le droit de boire ça ?
-DANIEL : Oui, euh...

1292
00:56:21,029 --> 00:56:22,509
TIMNIT GEBRU :
C'est dingue.

1293
00:56:22,553 --> 00:56:23,945
Comme tous ces gens

1294
00:56:23,989 --> 00:56:26,339
qui a tant d'argent,
tellement d'argent,

1295
00:56:26,383 --> 00:56:29,777
c'est dans leur intérêt
tromper le public

1296
00:56:29,821 --> 00:56:32,737
dans les capacités du
les systèmes qu'ils construisent,

1297
00:56:32,780 --> 00:56:36,262
parce que cela leur permet
pour échapper à la responsabilité.

1298
00:56:36,305 --> 00:56:39,091
Ils veulent que tu te sentes comme ça
est-ce si complexe, l'intelligence...

1299
00:56:39,134 --> 00:56:41,833
chose superintelligente
qu'ils construisent,

1300
00:56:41,876 --> 00:56:44,096
tu ne penses pas,
« OpenAI peut-il être éthique ?

1301
00:56:44,139 --> 00:56:46,272
Tu penses,
« ChatGPT peut-il être éthique ? »

1302
00:56:46,315 --> 00:56:48,100
comme si ChatGPT était, genre,

1303
00:56:48,143 --> 00:56:49,928
c'est son propre truc qui n'est pas construit
par une société.

1304
00:56:49,971 --> 00:56:51,625
FEMME :
Très bien. Sneha, prends-en un.

1305
00:56:51,669 --> 00:56:53,410
Marque.

1306
00:56:53,453 --> 00:56:55,760
Jusqu'à tout récemment, il y avait
applications sur l'App Store,

1307
00:56:55,803 --> 00:56:57,501
juste accessible au public, euh,

1308
00:56:57,544 --> 00:56:59,894
où tu pourrais
nudifiez toute personne utilisant l’IA.

1309
00:57:01,374 --> 00:57:03,681
Mettre cela entre les mains de

1310
00:57:03,724 --> 00:57:05,900
ton camarade de classe,
entre les mains de ton harceleur,

1311
00:57:05,944 --> 00:57:07,554
dans les mains
de ton ex-petit ami,

1312
00:57:07,598 --> 00:57:09,513
entre les mains de la personne
en bas de la rue.

1313
00:57:09,556 --> 00:57:12,037
Mesdames et messieurs,
nous ne pouvons plus faire confiance

1314
00:57:12,080 --> 00:57:14,039
les images que nous voyons
de nos propres yeux.

1315
00:57:14,082 --> 00:57:15,736
Si ça arrive
regarder quelque chose,

1316
00:57:15,780 --> 00:57:18,130
dites sur YouTube ou TikTok,
et tu trouves ça déstabilisant,

1317
00:57:18,173 --> 00:57:19,479
écoutez ce sentiment.

1318
00:57:19,523 --> 00:57:21,263
-[clou]
-Pour autant que tu saches,

1319
00:57:21,307 --> 00:57:22,917
-cette vidéo pourrait être de l'IA.
--[criant]

1320
00:57:22,961 --> 00:57:24,310
Juste un peu mouillé.

1321
00:57:24,353 --> 00:57:25,703
Peu importe qui vous êtes.

1322
00:57:25,746 --> 00:57:28,183
Vous êtes également à risque

1323
00:57:28,227 --> 00:57:30,229
d'être impacté
par ces technologies.

1324
00:57:35,713 --> 00:57:39,804
Je pense parfois quand nous parlons
à propos de l'IA, ça fait très science-fiction,

1325
00:57:39,847 --> 00:57:41,153
et ça semble très étranger,

1326
00:57:41,196 --> 00:57:42,981
et ça semble très loin
dans le futur,

1327
00:57:43,024 --> 00:57:45,549
alors tu penses : "Ma vie
n’est pas concerné par cela. »

1328
00:57:45,592 --> 00:57:48,290
Euh, mais si vous postulez
pour un travail

1329
00:57:48,334 --> 00:57:50,815
et un algorithme est la raison
que tu n'obtiens pas le poste,

1330
00:57:50,858 --> 00:57:52,686
parfois tu ne sais même pas
qu'un algorithme

1331
00:57:52,730 --> 00:57:54,209
faisait partie de ce processus

1332
00:57:54,253 --> 00:57:55,689
ou un système d'IA était
partie de ce processus.

1333
00:57:55,733 --> 00:57:57,691
You just know
que tu n'as pas obtenu le poste.

1334
00:57:57,735 --> 00:57:59,737
Et donc ce n'est pas quelque chose
that you're gonna escape

1335
00:57:59,780 --> 00:58:01,695
because of privilege
or you're gonna escape

1336
00:58:01,739 --> 00:58:03,828
because you're in
a particular profession.

1337
00:58:03,871 --> 00:58:06,918
C'est quelque chose qui affecte
everybody, really.

1338
00:58:06,961 --> 00:58:10,530
It may sound basic,
but how we move forward

1339
00:58:10,574 --> 00:58:15,056
à l’ère de l’information
ça va faire la différence

1340
00:58:15,100 --> 00:58:17,189
entre si nous survivons

1341
00:58:17,232 --> 00:58:20,409
ou si nous devenons une sorte
of [bleep]-up dystopia.

1342
00:58:20,453 --> 00:58:23,021
Bonjour. I'm not a real person,
and that's the point.

1343
00:58:23,064 --> 00:58:25,327
Again, everything
dans cette vidéo c'est faux :

1344
00:58:25,371 --> 00:58:27,112
nos voix, ce que nous portons,

1345
00:58:27,155 --> 00:58:30,158
où nous en sommes, tout cela est faux.

1346
00:58:30,202 --> 00:58:32,726
L’IA générative pourrait inonder

1347
00:58:32,770 --> 00:58:36,469
le monde avec de la désinformation.

1348
00:58:36,513 --> 00:58:39,516
Mais cela pourrait aussi l'inonder
avec des campagnes d'influence.

1349
00:58:39,559 --> 00:58:41,692
C'est un risque existentiel
à la démocratie.

1350
00:58:41,735 --> 00:58:43,694
Le plus grand et le plus effrayant

1351
00:58:43,737 --> 00:58:46,087
canari dans la mine de charbon
en ce moment

1352
00:58:46,131 --> 00:58:48,220
vient de Slovaquie.

1353
00:58:48,263 --> 00:58:49,787
-[homme parlant slovaque]
-JOHN BERMAN : C'est le genre de

1354
00:58:49,830 --> 00:58:52,224
deepfake sale truc qui
inquiète les experts électoraux,

1355
00:58:52,267 --> 00:58:54,966
en particulier lorsque généré par l'IA
le discours politique existe

1356
00:58:55,009 --> 00:58:56,750
dans une sorte de zone grise juridique.

1357
00:58:56,794 --> 00:58:59,536
-Est-ce que ça vous ressemble ?
-Ça me ressemble.

1358
00:58:59,579 --> 00:59:01,059
REVANUR : la Slovaquie avait
ses élections législatives

1359
00:59:01,102 --> 00:59:03,844
perturbé par un clone vocal de l'IA

1360
00:59:03,888 --> 00:59:06,717
qui a été effectivement diffusé
juste avant les élections.

1361
00:59:06,760 --> 00:59:08,457
DAVID EVAN HARRIS :
Un deepfake audio

1362
00:59:08,501 --> 00:59:11,025
a été libéré
sur les réseaux sociaux, c'était

1363
00:59:11,069 --> 00:59:14,028
soi-disant la voix
de l'un des candidats

1364
00:59:14,072 --> 00:59:16,814
je parle d'acheter des votes
et truquer les élections.

1365
00:59:16,857 --> 00:59:18,642
C'est devenu viral,

1366
00:59:18,685 --> 00:59:22,341
et le candidat
qui a perdu les élections

1367
00:59:22,384 --> 00:59:26,084
était en fait
en soutien à l'Ukraine,

1368
00:59:26,127 --> 00:59:29,783
et le candidat qui a gagné
l'élection était en fait...

1369
00:59:29,827 --> 00:59:31,306
DANIEL :
Un gars pro-russe.

1370
00:59:31,350 --> 00:59:32,830
C'était un gars pro-russe
qui a gagné les élections.

1371
00:59:32,873 --> 00:59:34,353
[parlant russe]

1372
00:59:34,396 --> 00:59:36,007
RÉBECCA JARVIS :
Poutine a lui-même dit

1373
00:59:36,050 --> 00:59:39,184
celui qui gagne ça
course à l'intelligence artificielle

1374
00:59:39,227 --> 00:59:41,534
est essentiellement
le contrôleur de l’humanité.

1375
00:59:41,578 --> 00:59:44,493
Nous nous inquiétons beaucoup
gouvernements autoritaires.

1376
00:59:45,973 --> 00:59:48,585
DAVID EVAN HARRIS :
En ce moment, Wall Street

1377
00:59:48,628 --> 00:59:50,935
et les investisseurs en général
à travers le monde

1378
00:59:50,978 --> 00:59:52,980
conduisent une poussée.

1379
00:59:53,024 --> 00:59:56,070
Ils ont une demande qui devient
les produits à commercialiser

1380
00:59:56,114 --> 00:59:58,377
qui éblouit les gens
le plus en premier.

1381
00:59:58,420 --> 01:00:01,206
Ils ne pensent pas
sur la façon dont ces outils

1382
01:00:01,249 --> 01:00:03,164
pourrait profondément ébranler la confiance

1383
01:00:03,208 --> 01:00:05,689
et nos institutions démocratiques.

1384
01:00:05,732 --> 01:00:07,734
HARARI :
La démocratie est un système

1385
01:00:07,778 --> 01:00:10,389
pour résoudre les désaccords
entre les gens

1386
01:00:10,432 --> 01:00:11,999
de manière paisible,

1387
01:00:12,043 --> 01:00:14,698
mais la démocratie est basée sur la confiance.

1388
01:00:14,741 --> 01:00:18,615
Si tu perds toute confiance,
la démocratie est tout simplement impossible.

1389
01:00:20,921 --> 01:00:22,488
TRISTAN HARRIS :
Eh bien, c'est dur, non ?

1390
01:00:22,531 --> 01:00:24,708
Alors, quelles sont les options
à notre disposition ?

1391
01:00:24,751 --> 01:00:26,187
Il y a en quelque sorte deux camps.

1392
01:00:26,231 --> 01:00:29,626
Par exemple, un camp est le suivant : verrouillez-le.

1393
01:00:29,669 --> 01:00:32,933
Verrouillons ça
dans une poignée d’entreprises d’IA

1394
01:00:32,977 --> 01:00:35,457
qui fera ça
de manière sûre et fiable.

1395
01:00:35,501 --> 01:00:37,068
Mais ensuite les gens s'inquiètent

1396
01:00:37,111 --> 01:00:39,026
concentrations incontrôlables
de richesse et de pouvoir.

1397
01:00:39,070 --> 01:00:41,855
Genre, à qui ferais-tu confiance pour être
un million de fois plus puissant

1398
01:00:41,899 --> 01:00:44,249
ou riche que
tous les autres acteurs de la société ?

1399
01:00:44,292 --> 01:00:46,338
Pourquoi devrions-nous vous faire confiance ?

1400
01:00:46,381 --> 01:00:48,601
Euh, tu ne devrais pas.

1401
01:00:48,645 --> 01:00:51,212
Mais bien sûr, si tu fais ça,
cela s'ouvre

1402
01:00:51,256 --> 01:00:54,433
tous ces risques de
autoritarisme et tyrannie.

1403
01:00:54,476 --> 01:00:57,131
C'est-c'est en quelque sorte
le rêve d'un autoritaire

1404
01:00:57,175 --> 01:01:00,308
avoir l'IA dans une boîte
qui peut être appliqué et utilisé

1405
01:01:00,352 --> 01:01:02,920
pour une surveillance omniprésente.

1406
01:01:02,963 --> 01:01:05,357
Je veux dire, d'une certaine manière,
le genre de monde

1407
01:01:05,400 --> 01:01:10,884
qu'Orwell a imaginé en 1984
est irréaliste,

1408
01:01:10,928 --> 01:01:13,278
euh, à moins que vous ayez l'IA.

1409
01:01:13,321 --> 01:01:15,933
Mais avec l'IA,
c'est en fait réaliste.

1410
01:01:15,976 --> 01:01:18,370
Surveille chaque activité,

1411
01:01:18,413 --> 01:01:22,026
conversations,
reconnaissance faciale.

1412
01:01:22,069 --> 01:01:26,378
Ce qui m'inquiète, c'est que
euh, ces outils peuvent évoluer,

1413
01:01:26,421 --> 01:01:28,554
euh, une forme de totalitarisme

1414
01:01:28,597 --> 01:01:31,035
c'est rentable
et permanente.

1415
01:01:32,950 --> 01:01:35,300
TRISTAN HARRIS : Donc en réponse
à cela, d'autres disent,

1416
01:01:35,343 --> 01:01:37,128
"Non, non, non, nous devrions
en fait, laisse ça se déchirer.

1417
01:01:37,171 --> 01:01:39,391
"Décentralisons ce pouvoir
autant que possible.

1418
01:01:39,434 --> 01:01:41,567
"Laissons chaque entreprise,
chaque individu,

1419
01:01:41,610 --> 01:01:43,917
"tous les 16 ans,
chaque laboratoire scientifique,

1420
01:01:43,961 --> 01:01:45,963
tu sais, profites-en
des derniers modèles d'IA.

1421
01:01:46,006 --> 01:01:48,226
Mais maintenant tu as
chaque groupe terroriste,

1422
01:01:48,269 --> 01:01:51,664
chaque personne privée de ses droits
avoir le pouvoir de faire

1423
01:01:51,708 --> 01:01:53,797
le pire
arme biologique.

1424
01:01:53,840 --> 01:01:55,581
Infrastructure de piratage,
créer des deepfakes,

1425
01:01:55,624 --> 01:01:57,452
inondation
notre environnement informationnel.

1426
01:01:57,496 --> 01:02:00,412
Donc ça crée tous ces risques
une sorte de dommage catastrophique

1427
01:02:00,455 --> 01:02:02,893
et-et l'effondrement de la société
par cette direction.

1428
01:02:02,936 --> 01:02:04,677
Et donc nous sommes en quelque sorte coincés
entre ce rocher

1429
01:02:04,721 --> 01:02:07,549
et un endroit difficile,
entre "verrouillez-le..."

1430
01:02:07,593 --> 01:02:09,029
[bavardage indistinct]

1431
01:02:10,683 --> 01:02:12,293
-...ou "laisse-le déchirer".
-[sirènes hurlantes]

1432
01:02:12,337 --> 01:02:14,208
[les gens crient]

1433
01:02:14,252 --> 01:02:17,559
Il faut donc trouver quelque chose
comme un chemin étroit

1434
01:02:17,603 --> 01:02:20,388
ça évite
ces deux résultats négatifs.

1435
01:02:20,432 --> 01:02:22,956
Donc, si tout cela est vrai,
pourquoi ne ralentirions-nous pas

1436
01:02:23,000 --> 01:02:25,829
et comprends tout ça
avant qu'il ne soit trop tard ?

1437
01:02:25,872 --> 01:02:28,919
Si l'humanité était extrêmement sage,

1438
01:02:28,962 --> 01:02:31,182
c'est ce que nous ferions.

1439
01:02:31,225 --> 01:02:33,097
Mais il y a, genre, un autre
une façon de faire face à ce genre de choses, non ?

1440
01:02:33,140 --> 01:02:35,926
Ce qui est :
Quelles sont les règles du jeu ?

1441
01:02:35,969 --> 01:02:39,494
Une grande partie de ce que font les PDG

1442
01:02:39,538 --> 01:02:42,149
est piloté par
les incitations auxquelles ils sont confrontés.

1443
01:02:42,193 --> 01:02:45,283
C'est avant tout
incitations à la maximisation des profits

1444
01:02:45,326 --> 01:02:47,198
qui conduisent
le développement de l’IA.

1445
01:02:47,241 --> 01:02:50,375
Même les gentils sont coincés
dans ce dilemme de

1446
01:02:50,418 --> 01:02:52,638
s'ils bougent trop lentement,

1447
01:02:52,681 --> 01:02:54,553
puis ils se quittent
vulnérable

1448
01:02:54,596 --> 01:02:57,251
à tous les autres gars
qui coupent tous les coins.

1449
01:02:57,295 --> 01:03:01,995
Toutes ces grandes entreprises sont présentes
une course complète et sans limites

1450
01:03:02,039 --> 01:03:05,433
pour obtenir le plus rapidement possible
à AGI, allez-y maintenant.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
LADISH : Ouais, je veux dire,
Je le pense, je pense

1453
01:03:10,395 --> 01:03:12,919
ça commence probablement
avec DeepMind.

1454
01:03:12,963 --> 01:03:14,791
JOURNALISTE :
Google achète

1455
01:03:14,834 --> 01:03:16,357
entreprise d'intelligence artificielle
Technologies DeepMind.

1456
01:03:16,401 --> 01:03:18,620
Conditions de l'accord
n’ont pas été divulgués.

1457
01:03:18,664 --> 01:03:20,709
ELON MUSK : Larry Page et moi
étaient des amis très proches,

1458
01:03:20,753 --> 01:03:22,711
et il m'est devenu évident

1459
01:03:22,755 --> 01:03:26,411
que Larry s'en fichait
sur la sécurité de l'IA.

1460
01:03:26,454 --> 01:03:28,892
EMILY CHANG : Elon Musk a déclaré
vous avez démarré OpenAI,

1461
01:03:28,935 --> 01:03:30,981
vous avez tous les deux lancé OpenAI parce que
il avait peur de Google.

1462
01:03:31,024 --> 01:03:32,156
LADISH : En gros, vous-vous
avait la fondation

1463
01:03:32,199 --> 01:03:33,722
d'OpenAI en est issu.

1464
01:03:33,766 --> 01:03:35,202
"Alors nous allons faire mieux.
Nous allons le faire

1465
01:03:35,246 --> 01:03:36,813
d'une manière plus sûre
ou d'une manière plus ouverte.

1466
01:03:38,466 --> 01:03:40,555
C'est donc ce qui a lancé OpenAI.

1467
01:03:40,599 --> 01:03:42,731
Et donc maintenant, au lieu de
avoir un projet AGI,

1468
01:03:42,775 --> 01:03:44,821
vous avez deux projets AGI.

1469
01:03:44,864 --> 01:03:46,910
La pire chose possible
ça pourrait arriver

1470
01:03:46,953 --> 01:03:49,608
c'est s'il y a
plusieurs projets AGI

1471
01:03:49,651 --> 01:03:51,871
fait par différentes personnes
qui ne s'aiment pas

1472
01:03:51,915 --> 01:03:54,787
et sont tous en compétition
pour accéder à AGI en premier.

1473
01:03:54,831 --> 01:03:56,963
Ce serait le pire
chose possible qui puisse arriver,

1474
01:03:57,007 --> 01:04:00,097
parce que cela signifierait
que celui qui est le moins en sécurité,

1475
01:04:00,140 --> 01:04:03,143
celui qui sacrifie le plus
sur la sécurité pour avancer

1476
01:04:03,187 --> 01:04:05,145
sera la personne
cela arrive en premier.

1477
01:04:05,189 --> 01:04:07,844
-DANIEL : C'est en gros
que se passe-t-il, n'est-ce pas ? -Ouais.

1478
01:04:07,887 --> 01:04:11,325
Toi et ton frère
on sait qu'il a quitté OpenAI, euh,

1479
01:04:11,369 --> 01:04:12,936
pour démarrer Anthropic.

1480
01:04:12,979 --> 01:04:15,068
RASKIN : Et puis Anthropique
commencé parce que

1481
01:04:15,112 --> 01:04:17,854
certains chercheurs
à l'intérieur d'OpenAI a dit,

1482
01:04:17,897 --> 01:04:20,508
"Je veux partir
et faites-le de manière plus sûre.

1483
01:04:20,552 --> 01:04:23,511
Tu avais besoin de quelque chose en plus
simplement agrandir les modèles,

1484
01:04:23,555 --> 01:04:25,818
qui est l'alignement ou la sécurité.

1485
01:04:25,862 --> 01:04:27,428
HENDRCKS :
"Nous sommes plus responsables

1486
01:04:27,472 --> 01:04:29,648
ou plus digne de confiance
ou plus moral."

1487
01:04:29,691 --> 01:04:31,519
Vous avez maintenant trois projets AGI.

1488
01:04:31,563 --> 01:04:33,043
Mais aussi assis
la table avec toi

1489
01:04:33,086 --> 01:04:34,827
il y aura un tas d'IA.

1490
01:04:34,871 --> 01:04:37,525
LADISH : Et maintenant Meta est-est
essayer de faire des trucs.

1491
01:04:37,569 --> 01:04:39,571
Pendant ce temps, un nouvel artificiel
concurrent du renseignement

1492
01:04:39,614 --> 01:04:41,573
annoncé cette semaine,
Elon Musk...

1493
01:04:41,616 --> 01:04:44,619
HENDRCKKS : xAI, ce qui serait
L'organisation d'Elon Musk.

1494
01:04:44,663 --> 01:04:46,230
MUSC :
Je ne fais pas confiance à OpenAI.

1495
01:04:46,273 --> 01:04:47,884
Le combat entre
Elon Musk et OpenAI

1496
01:04:47,927 --> 01:04:49,581
est entré dans un nouveau cycle.

1497
01:04:49,624 --> 01:04:51,713
Je ne fais pas confiance à Sam Altman,
euh, et moi, et je ne pense pas

1498
01:04:51,757 --> 01:04:54,194
nous voulons avoir le plus
IA puissante dans le monde

1499
01:04:54,238 --> 01:04:56,414
contrôlé par quelqu'un
qui n'est pas digne de confiance.

1500
01:04:56,457 --> 01:04:58,416
[acclamations et applaudissements]

1501
01:04:58,459 --> 01:05:01,593
L'incitation est
des sommes d'argent incalculables.

1502
01:05:01,636 --> 01:05:03,377
-Oui.
-C'est un pouvoir indescriptible.

1503
01:05:03,421 --> 01:05:05,553
-Oui.
-C'est un contrôle indescriptible.

1504
01:05:05,597 --> 01:05:08,034
Si tu as quelque chose
c'est un million de fois plus intelligent

1505
01:05:08,078 --> 01:05:11,385
et plus capable que
tout le reste sur la planète Terre

1506
01:05:11,429 --> 01:05:14,171
et personne d'autre n'a ça,

1507
01:05:14,214 --> 01:05:15,955
cette chose est l'incitation.

1508
01:05:15,999 --> 01:05:17,261
Donc c'est vous qui dirigez le monde.

1509
01:05:18,610 --> 01:05:20,394
Si tu crois vraiment cela,

1510
01:05:20,438 --> 01:05:22,744
si tu es vraiment dans ton coeur
crois-le,

1511
01:05:22,788 --> 01:05:24,181
alors tu pourrais l'être
prêt à prendre

1512
01:05:24,224 --> 01:05:26,096
beaucoup de risque
pour que cela se produise.

1513
01:05:26,139 --> 01:05:28,881
Google vient de publier
son nouveau modèle d'IA.

1514
01:05:28,925 --> 01:05:31,231
La réponse au ChatGPT d'OpenAI.

1515
01:05:31,275 --> 01:05:33,059
Comment pouvons-nous arriver à
ces dix mille milliards ?

1516
01:05:33,103 --> 01:05:35,192
NVIDIA devient-il le plus
une entreprise précieuse aux États-Unis ?

1517
01:05:35,235 --> 01:05:38,978
C'est la plus grande entreprise
opportunité dans l’histoire.

1518
01:05:39,022 --> 01:05:40,501
Dans l'histoire.

1519
01:05:40,545 --> 01:05:42,242
Alors, la raison pour laquelle
tout le monde est vraiment excité

1520
01:05:42,286 --> 01:05:44,679
sur l'intelligence artificielle
en ce moment

1521
01:05:44,723 --> 01:05:48,031
c'est parce que
plus ces entreprises font du battage publicitaire

1522
01:05:48,074 --> 01:05:50,033
les capacités potentielles
de leur technologie,

1523
01:05:50,076 --> 01:05:53,210
plus il y a d'investissement
ils peuvent attirer.

1524
01:05:53,253 --> 01:05:54,733
CARL QUINTANILLA :
Amazon investit jusqu'à

1525
01:05:54,776 --> 01:05:56,996
quatre milliards de dollars
dans la start-up Anthropic.

1526
01:05:57,040 --> 01:05:58,693
OpenAI jette son dévolu

1527
01:05:58,737 --> 01:06:00,739
sur une moitié à succès
une valorisation d’un billion de dollars.

1528
01:06:00,782 --> 01:06:02,001
Un demi-billion !

1529
01:06:02,045 --> 01:06:03,220
La course est lancée.

1530
01:06:03,263 --> 01:06:04,612
Cela se produit
plus vite que jamais.

1531
01:06:04,656 --> 01:06:06,614
Sommes-nous dans une bulle d’IA ?
Bien sûr.

1532
01:06:06,658 --> 01:06:09,182
Je ne vois tout simplement pas
la bulle éclate

1533
01:06:09,226 --> 01:06:12,446
pendant que tu as encore
ce cycle de dépenses majeur.

1534
01:06:12,490 --> 01:06:15,014
RASKIN : Même si vous pensez
tout ça n'est qu'un battage médiatique,

1535
01:06:15,058 --> 01:06:17,582
il y en a des milliards
à des milliards de dollars

1536
01:06:17,625 --> 01:06:21,107
entrant dans la création de systèmes d'IA
plus puissant.

1537
01:06:21,151 --> 01:06:23,849
Et une fois que tu as ce truc
c'est plus puissant,

1538
01:06:23,892 --> 01:06:25,546
les entreprises peuvent l'utiliser

1539
01:06:25,590 --> 01:06:27,548
pour obtenir de plus gros profits
et pour gagner plus d'argent.

1540
01:06:27,592 --> 01:06:30,116
Les pays peuvent l'utiliser
pour rendre les armées plus fortes.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA a dépassé
Microsoft et Apple

1542
01:06:32,858 --> 01:06:36,253
devenir le monde
entreprise la plus précieuse.

1543
01:06:36,296 --> 01:06:38,995
La course au déploiement devient
la course à l'insouciance,

1544
01:06:39,038 --> 01:06:41,780
parce qu'ils ne peuvent pas
déployez-le aussi rapidement

1545
01:06:41,823 --> 01:06:43,173
et aussi bien faire les choses.

1546
01:06:43,216 --> 01:06:46,045
Ils croient que
ce sont les gentils.

1547
01:06:46,089 --> 01:06:49,309
"Et si je ne le fais pas,
quelqu'un qui n'a pas

1548
01:06:49,353 --> 01:06:51,572
"des valeurs aussi bonnes que moi
je serai assis à table

1549
01:06:51,616 --> 01:06:54,445
je dois prendre des décisions, donc
J'ai l'obligation de le faire."

1550
01:06:54,488 --> 01:06:56,186
Oui, c'est
une croyance très répandue.

1551
01:06:56,229 --> 01:06:58,579
Beaucoup, beaucoup, beaucoup,
peut-être la plupart des gens

1552
01:06:58,623 --> 01:07:00,712
construire cette technologie
croyez cela.

1553
01:07:00,755 --> 01:07:03,715
je m'inquiète pour
la concurrence commerciale,

1554
01:07:03,758 --> 01:07:05,847
mais il s'avère
Je suis encore plus inquiet

1555
01:07:05,891 --> 01:07:08,024
la compétition géopolitique.

1556
01:07:08,067 --> 01:07:10,330
Nous avions huit ans de retard
il y a un an.

1557
01:07:10,374 --> 01:07:12,593
Maintenant, nous sommes probablement
avec moins d'un an de retard.

1558
01:07:12,637 --> 01:07:15,683
Eh bien, l'Arabie Saoudite
et les Émirats arabes unis ont fait la course

1559
01:07:15,727 --> 01:07:18,121
mettre en place des centres de données
et se positionner

1560
01:07:18,164 --> 01:07:20,384
comme force dominante dans l’IA…

1561
01:07:20,427 --> 01:07:22,429
...pour faire de la Corée du Sud
un leader mondial de l’IA.

1562
01:07:22,473 --> 01:07:23,996
JULIE SIEGER :
Le président français Emmanuel Macron

1563
01:07:24,040 --> 01:07:25,867
on a beaucoup parlé
intelligence artificielle...

1564
01:07:25,911 --> 01:07:27,434
Maintenant avec plus d'informations sur le rôle d'Israël

1565
01:07:27,478 --> 01:07:29,610
dans l'intelligence artificielle
révolution...

1566
01:07:29,654 --> 01:07:33,092
Les pays seront en compétition
pour qui les technologies d'IA

1567
01:07:33,136 --> 01:07:34,876
créer la prochaine génération
de l'industrie.

1568
01:07:34,920 --> 01:07:38,010
Les Chinois insistent
cette IA,

1569
01:07:38,054 --> 01:07:39,838
comme étant développé en Chine,

1570
01:07:39,881 --> 01:07:41,709
renforcer les valeurs fondamentales

1571
01:07:41,753 --> 01:07:44,016
du Parti communiste chinois
et le système chinois.

1572
01:07:44,060 --> 01:07:48,716
L'Amérique doit battre la Chine
dans la course à l'IA.

1573
01:07:48,760 --> 01:07:51,023
DANIEL : En Chine, genre,
à des années-lumière derrière.

1574
01:07:51,067 --> 01:07:52,677
Le sont-ils ?

1575
01:07:52,720 --> 01:07:54,983
Je veux dire, ils en ont bien plus
données de formation que nous,

1576
01:07:55,027 --> 01:07:57,812
et rien ne dit qu'ils
ne lâche pas de modèle le mois prochain

1577
01:07:57,856 --> 01:08:00,946
ce n'est pas...
ne surpasse pas de loin GPT-4.

1578
01:08:00,989 --> 01:08:03,818
Tout allait très bien.
Qu'est-ce qui pourrait mal se passer ?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [parlant chinois]
-Recherche profonde... -Recherche profonde...

1580
01:08:06,734 --> 01:08:08,040
Il y a un nouveau modèle.

1581
01:08:08,084 --> 01:08:10,825
Mais d'un laboratoire chinois
appelé DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
Parlons de DeepSeek,
parce que c'est époustouflant,

1583
01:08:14,002 --> 01:08:17,658
et ça secoue ça
l’ensemble de l’industrie.

1584
01:08:17,702 --> 01:08:19,399
L'administration Trump
assurera

1585
01:08:19,443 --> 01:08:23,055
que le plus puissant
Les systèmes d'IA sont construits aux États-Unis

1586
01:08:23,099 --> 01:08:26,537
avec un design américain
et des copeaux fabriqués.

1587
01:08:26,580 --> 01:08:28,800
L'IA appartient à la Chine
Projet Apollon.

1588
01:08:28,843 --> 01:08:30,193
Le Parti communiste chinois

1589
01:08:30,236 --> 01:08:31,542
comprend profondément le potentiel

1590
01:08:31,585 --> 01:08:32,891
pour que l’IA perturbe la guerre.

1591
01:08:32,934 --> 01:08:35,328
Google ne promet plus
que ce ne sera pas

1592
01:08:35,372 --> 01:08:38,418
utiliser l'intelligence artificielle
pour les armes ou la surveillance.

1593
01:08:38,462 --> 01:08:40,028
Chine, Corée du Nord, Russie

1594
01:08:40,072 --> 01:08:41,900
je vais continuer à le construire
le plus vite possible

1595
01:08:41,943 --> 01:08:44,511
pour obtenir plus d'avantages économiques,
plus d'avantage de productivité,

1596
01:08:44,555 --> 01:08:46,818
plus d'avantage scientifique,
plus d'avantage militaire,

1597
01:08:46,861 --> 01:08:48,646
parce que l'IA fabrique de meilleures armes.

1598
01:08:48,689 --> 01:08:51,736
Si tu parles de
un système aussi vaste et performant

1599
01:08:51,779 --> 01:08:53,303
en tant que brillant scientifique,

1600
01:08:53,346 --> 01:08:57,959
il pourrait peut-être fonctionner
une campagne militaire

1601
01:08:58,003 --> 01:09:01,441
mieux que n'importe lequel des généraux
au sein du gouvernement américain en ce moment.

1602
01:09:01,485 --> 01:09:05,489
Taiwan est le problème qui crée
le plus de tension en ce moment

1603
01:09:05,532 --> 01:09:07,882
entre Pékin et les États-Unis.

1604
01:09:07,926 --> 01:09:10,450
Il y a un-un direct
désaccord d'opposition

1605
01:09:10,494 --> 01:09:11,973
entre les États-Unis et la Chine

1606
01:09:12,017 --> 01:09:13,975
sur la question de savoir si Taiwan est
une partie de la Chine.

1607
01:09:14,019 --> 01:09:18,415
MATHENY : Taïwan est important
pour tant de raisons.

1608
01:09:18,458 --> 01:09:20,547
C'est aussi la maison de

1609
01:09:20,591 --> 01:09:24,160
environ 90 % des puces avancées
fabrication pour le monde,

1610
01:09:24,203 --> 01:09:28,381
ce qui signifie que l'approvisionnement
chaîne pour le calcul avancé

1611
01:09:28,425 --> 01:09:31,036
est en danger s'il y a

1612
01:09:31,079 --> 01:09:32,951
une sorte de scénario
autour de Taïwan,

1613
01:09:32,994 --> 01:09:37,999
qu'il s'agisse d'un blocus
ou une invasion par la Chine.

1614
01:09:38,043 --> 01:09:40,698
HENDRCKS :
Allons-nous participer à une course

1615
01:09:40,741 --> 01:09:45,616
entre les États-Unis et la Chine
qui finit par devenir

1616
01:09:45,659 --> 01:09:49,359
une course aux armements militarisée en matière d’IA et,
tu sais, ça mène potentiellement

1617
01:09:49,402 --> 01:09:51,274
à un conflit de grande puissance ?

1618
01:09:51,317 --> 01:09:53,014
NICK SCHIFRIN : Le sortant
haut commandant militaire américain

1619
01:09:53,058 --> 01:09:55,843
dans la région
prédit que la guerre allait arriver.

1620
01:09:55,887 --> 01:09:57,932
Je pense que la menace est manifeste
au cours de cette décennie,

1621
01:09:57,976 --> 01:09:59,456
en fait, dans les six prochaines années.

1622
01:09:59,499 --> 01:10:01,414
MATHÉNY :
Euh, un des scénarios

1623
01:10:01,458 --> 01:10:05,853
ce qui m'inquiète, c'est
une cyber-guerre flash,

1624
01:10:05,897 --> 01:10:10,902
euh, celui dans lequel
des cyber-outils autonomes

1625
01:10:10,945 --> 01:10:12,947
sont en compétition les uns contre les autres

1626
01:10:12,991 --> 01:10:14,601
de manière évolutive

1627
01:10:14,645 --> 01:10:16,386
sans
contrôle humain significatif.

1628
01:10:18,823 --> 01:10:20,433
HARARI :
Vous vivez dans une zone de guerre,

1629
01:10:20,477 --> 01:10:23,784
ce sera une IA qui décidera
s'il faut bombarder ta maison

1630
01:10:23,828 --> 01:10:25,743
et si je dois te tuer.

1631
01:10:25,786 --> 01:10:27,527
Laissons la machine décider.

1632
01:10:27,571 --> 01:10:29,355
C'est la tentation.

1633
01:10:29,399 --> 01:10:32,576
C'est pourquoi l'IA est si tentante
que les militaires doivent adopter,

1634
01:10:32,619 --> 01:10:35,753
créer des armes autonomes,
parce que si je commence à croire

1635
01:10:35,796 --> 01:10:39,147
que mon adversaire militaire
va adopter l'IA,

1636
01:10:39,191 --> 01:10:41,802
ce sera une course pour qui peut
appuyez sur la gâchette plus rapidement.

1637
01:10:41,846 --> 01:10:44,892
Et celui qui automatise
cette décision,

1638
01:10:44,936 --> 01:10:47,199
plutôt que d'avoir
un humain dans la boucle,

1639
01:10:47,243 --> 01:10:49,201
est celui
qui gagnera cette guerre.

1640
01:10:49,245 --> 01:10:50,637
Et si tu penses à

1641
01:10:50,681 --> 01:10:53,074
la course aux armements nucléaires
dans les années 40...

1642
01:10:54,554 --> 01:10:56,556
...tu connais les Allemands
travaillent sur la bombe,

1643
01:10:56,600 --> 01:11:00,734
donc ce n'est pas si facile à dire
Robert Oppenheimer alors,

1644
01:11:00,778 --> 01:11:03,781
"Euh, tu sais, ralentis."

1645
01:11:03,824 --> 01:11:05,304
Alors après avoir regardé ce film,
ça va être déroutant,

1646
01:11:05,348 --> 01:11:06,653
parce que tu vas y retourner,

1647
01:11:06,697 --> 01:11:08,307
et demain
tu vas utiliser ChatGPT,

1648
01:11:08,351 --> 01:11:10,440
et ça va être
incroyablement utile.

1649
01:11:10,483 --> 01:11:12,703
Et je vais l'utiliser aussi, et
ce sera incroyablement utile.

1650
01:11:12,746 --> 01:11:16,141
Et tu diras : "Attends, alors
Je viens de voir ce film sur l'IA

1651
01:11:16,184 --> 01:11:18,012
"et risque existentiel
et toutes ces choses,

1652
01:11:18,056 --> 01:11:20,624
et où est la menace, déjà ? »

1653
01:11:20,667 --> 01:11:24,715
Et ce n'est pas que ChatGPT soit
la menace existentielle.

1654
01:11:24,758 --> 01:11:28,675
C'est ça la course au déploiement
le plus puissant,

1655
01:11:28,719 --> 01:11:31,635
impénétrable,
technologie incontrôlable,

1656
01:11:31,678 --> 01:11:35,116
au pire
incitations possibles,

1657
01:11:35,160 --> 01:11:37,031
c'est la menace existentielle.

1658
01:11:38,119 --> 01:11:40,383
DANIEL :
Mais ça me frappe, ça-ça

1659
01:11:40,426 --> 01:11:43,211
nous sommes dans un contexte de course.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER : Oui.
-Et c'est dans un contexte compétitif,

1661
01:11:45,953 --> 01:11:47,651
"Je dois y arriver en premier,
je dois gagner la course",

1662
01:11:47,694 --> 01:11:49,000
"Je dois rivaliser avec la Chine,

1663
01:11:49,043 --> 01:11:50,349
je dois rivaliser avec
les autres laboratoires."

1664
01:11:50,393 --> 01:11:51,829
N'est-ce pas vrai ?

1665
01:11:51,872 --> 01:11:53,657
C'est aujourd'hui le cas.

1666
01:11:53,700 --> 01:11:56,703
Nous devons donc changer
cette dynamique de course.

1667
01:11:57,922 --> 01:11:59,924
Vous ne pensez pas ?

1668
01:11:59,967 --> 01:12:02,187
je pense que ce serait
très bien en effet.

1669
01:12:03,710 --> 01:12:06,496
Je-je pense
il y a une sorte de...

1670
01:12:06,539 --> 01:12:09,542
mysticisme autour de l'IA
ça donne l'impression

1671
01:12:09,586 --> 01:12:11,718
il est tombé du ciel.

1672
01:12:11,762 --> 01:12:13,459
DANIEL : En pensant à ça
comme une technologie divine

1673
01:12:13,503 --> 01:12:15,418
est un problème.

1674
01:12:15,461 --> 01:12:16,897
Ouais.

1675
01:12:18,072 --> 01:12:19,900
Pourquoi ?

1676
01:12:19,944 --> 01:12:22,990
Cela donne une licence
aux entreprises de...

1677
01:12:23,034 --> 01:12:26,254
[rires]
ne pas prendre la responsabilité

1678
01:12:26,298 --> 01:12:30,781
pour les choses que le logiciel
qu'ils ont construit le fait.

1679
01:12:30,824 --> 01:12:35,089
Si les gens faisaient ce lien,

1680
01:12:35,133 --> 01:12:37,527
peut-être que ce serait comme,
aide-les à comprendre à nouveau

1681
01:12:37,570 --> 01:12:41,835
la dynamique de
tout l'argent et le pouvoir et...

1682
01:12:41,879 --> 01:12:45,317
le chaos qui arrive à...

1683
01:12:45,361 --> 01:12:47,101
créer cette technologie.

1684
01:12:47,145 --> 01:12:49,234
C'est genre cinq gars
qui le contrôle, n'est-ce pas ?

1685
01:12:49,277 --> 01:12:51,628
- Genre, cinq hommes ?
-En gros, ouais.

1686
01:12:51,671 --> 01:12:53,847
-Les PDG ?
-Ouais.

1687
01:12:53,891 --> 01:12:55,371
D'accord.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
DANIEL :
Parfois, on a l'impression

1690
01:13:03,117 --> 01:13:07,252
J'ai été là-dessus
juste un voyage sans fin

1691
01:13:07,295 --> 01:13:09,341
d'essayer de comprendre cela.

1692
01:13:09,385 --> 01:13:12,388
Tu sais, comme
Je gravis une montagne...

1693
01:13:15,608 --> 01:13:19,133
...et à chaque fois
Je monte une colline,

1694
01:13:19,177 --> 01:13:20,744
Je pense que j'ai atteint le sommet,

1695
01:13:20,787 --> 01:13:23,399
mais ça continue
et aller et venir.

1696
01:13:23,442 --> 01:13:24,530
[clics de la caméra, vrombissements]

1697
01:13:24,574 --> 01:13:26,967
Mais d'après tout ce que j'ai entendu,

1698
01:13:27,011 --> 01:13:30,362
si je devais deviner ce que c'est
au sommet de la Montagne de l'Anxiété,

1699
01:13:30,406 --> 01:13:34,192
ce sont ces cinq PDG
de ces cinq sociétés,

1700
01:13:34,235 --> 01:13:37,630
qui ressemblent un peu aux
Oppenheimers du moment.

1701
01:13:37,674 --> 01:13:39,458
Ce sont les gars
qui construisent cette chose.

1702
01:13:39,502 --> 01:13:40,807
Ouais.

1703
01:13:40,851 --> 01:13:44,158
Genre, y a-t-il un plan ?

1704
01:13:44,202 --> 01:13:46,422
Le chef de l'entreprise
qui fait ChatGPT

1705
01:13:46,465 --> 01:13:49,947
averti d'une possible
un préjudice important pour le monde.

1706
01:13:49,990 --> 01:13:52,384
Je pense que si cette technologie
ça va mal,

1707
01:13:52,428 --> 01:13:53,472
ça peut mal tourner.

1708
01:13:53,516 --> 01:13:55,779
[éclats de bavardages distincts]

1709
01:13:55,822 --> 01:13:57,781
DANIEL :
Cinq mecs.

1710
01:13:57,824 --> 01:14:01,567
Je-je n'ai jamais pensé à nous
en tant qu'entreprise de médias sociaux.

1711
01:14:01,611 --> 01:14:06,050
J'ai l'impression que je dois essayer
et-et trouve ces gars...

1712
01:14:06,093 --> 01:14:07,181
Mm-hmm.

1713
01:14:07,225 --> 01:14:09,009
...et mettez-les dans le film.

1714
01:14:10,315 --> 01:14:12,622
Nous obtiendrions certainement
une certaine clarté à partir de cela.

1715
01:14:13,666 --> 01:14:14,928
[clics de la caméra, vrombissements]

1716
01:14:16,582 --> 01:14:19,150
Je veux dire, il faut que la responsabilité s'arrête
quelque part, non ?

1717
01:14:19,193 --> 01:14:21,152
[vent sifflant]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[les outils vrombissent et cliquent]

1720
01:14:27,071 --> 01:14:29,116
[hurlement]

1721
01:14:34,034 --> 01:14:35,296
DANIEL :
Comment ça se sent ?

1722
01:14:35,340 --> 01:14:37,690
-Super.
-Ça va ?

1723
01:14:37,734 --> 01:14:39,431
-Ouais.
-[bavardage indistinct de l'équipage]

1724
01:14:39,475 --> 01:14:40,998
-Puis-je avancer le siège ?
-DANIEL : Oui, tu peux.

1725
01:14:41,041 --> 01:14:42,173
C'est, euh, c'est juste
un peu gênant.

1726
01:14:42,216 --> 01:14:43,566
Je suis un peu comme...

1727
01:14:43,609 --> 01:14:45,045
Dario, comment te sens-tu
à propos de cette chaise ?

1728
01:14:45,089 --> 01:14:47,004
Euh, ouais, la chaise est bonne.

1729
01:14:47,047 --> 01:14:48,832
-Je voulais juste le déplacer
un peu en avant. -D'accord.

1730
01:14:48,875 --> 01:14:50,529
J'ai choisi cette chaise.

1731
01:14:50,573 --> 01:14:52,139
-C'est une bonne chaise.
-Merci.

1732
01:14:52,183 --> 01:14:53,619
[le téléphone portable sonne]

1733
01:14:57,884 --> 01:14:59,495
TED :
Et asseyez-vous là.

1734
01:15:01,409 --> 01:15:03,063
Et puis par ici,

1735
01:15:03,107 --> 01:15:04,369
nous nous regarderons
à travers ce verre.

1736
01:15:04,412 --> 01:15:06,458
[signal occupé bip]

1737
01:15:11,419 --> 01:15:13,552
Et m'asseyant sur la chaise,
penché en avant ?

1738
01:15:13,596 --> 01:15:15,119
-DANIEL : Ouais. Eh bien, peu importe
confortable, je pense. -D'accord.

1739
01:15:15,162 --> 01:15:16,686
C'est plutôt cool.
Il y a un tas de miroirs.

1740
01:15:16,729 --> 01:15:17,817
-Est-ce que... d'accord.
-FEMME : Sam A., prends-en un. Marque.

1741
01:15:17,861 --> 01:15:19,515
-Comment ça ?
-Bien. Merci.

1742
01:15:19,558 --> 01:15:21,038
DANIEL : La genèse
de ce projet, c'est que j'étais

1743
01:15:21,081 --> 01:15:22,822
assis à la maison,
et je jouais avec,

1744
01:15:22,866 --> 01:15:24,389
Je pense que votre générateur d'images,

1745
01:15:24,432 --> 01:15:27,261
et j'étais simultanément,
euh, terrifié

1746
01:15:27,305 --> 01:15:29,437
-et vraiment impressionné.
-[rires doucement]

1747
01:15:29,481 --> 01:15:31,875
-C'est la combinaison habituelle.
-Et puis on passe à

1748
01:15:31,918 --> 01:15:34,617
ma femme et moi découvrons
nous attendons.

1749
01:15:34,660 --> 01:15:38,272
Et-et j'ai l'impression d'avoir
une crise existentielle

1750
01:15:38,316 --> 01:15:40,231
comme ma femme
enceinte de six mois.

1751
01:15:40,274 --> 01:15:42,929
Et je pense que ma première question,
ce que je demande à tout le monde :

1752
01:15:42,973 --> 01:15:45,453
C'est maintenant un moment terrible
avoir un enfant ?

1753
01:15:45,497 --> 01:15:47,368
Est-ce que je fais une grosse erreur ?

1754
01:15:47,412 --> 01:15:49,022
j'attends un enfant
en mars aussi. Mon premier.

1755
01:15:49,066 --> 01:15:50,502
-Tu attends un enfant ?
-Ouais.

1756
01:15:50,546 --> 01:15:51,808
-Vous attendez pour mars ?
-Premier enfant.

1757
01:15:51,851 --> 01:15:53,287
-Mazel tov.
-Merci beaucoup.

1758
01:15:53,331 --> 01:15:54,462
Je n'ai jamais été aussi excité
pour n'importe quoi.

1759
01:15:54,506 --> 01:15:56,464
-C'est ce que je ressens.
-Ouais.

1760
01:15:56,508 --> 01:15:58,205
Mais tu n'as pas peur ?

1761
01:15:58,249 --> 01:16:02,732
Je veux dire, genre, avoir un enfant, c'est
juste cette chose capitale

1762
01:16:02,775 --> 01:16:04,995
que moi, tu sais,
Je reste éveillé tous les soirs, genre,

1763
01:16:05,038 --> 01:16:06,823
lire ces livres sur
comment élever un enfant,

1764
01:16:06,866 --> 01:16:08,215
et j'espère
Je vais faire du bon travail,

1765
01:16:08,259 --> 01:16:09,260
et ça se sent
très accablant et...

1766
01:16:09,303 --> 01:16:12,045
mais je n'ai pas peur...

1767
01:16:12,089 --> 01:16:14,047
pour que les enfants grandissent
dans un monde avec l'IA.

1768
01:16:14,091 --> 01:16:16,310
Genre, c'est... ça ira.

1769
01:16:16,354 --> 01:16:19,009
C'est bon à entendre
venant du gars.

1770
01:16:19,052 --> 01:16:20,750
Je pense que c'est une merveilleuse idée
avoir des enfants.

1771
01:16:20,793 --> 01:16:23,230
Je-je pense que ce sont les plus
chose magique et incroyable.

1772
01:16:23,274 --> 01:16:25,276
--[soupire lourdement]
-Il y a tellement d'incertitude,

1773
01:16:25,319 --> 01:16:26,843
Je ferais presque simplement
ce que tu vas faire de toute façon.

1774
01:16:26,886 --> 01:16:28,932
Je sais que ce n'est pas le cas
une réponse très satisfaisante,

1775
01:16:28,975 --> 01:16:31,891
mais c'est le seul
Je peux trouver.

1776
01:16:31,935 --> 01:16:34,459
Nos enfants ne le feront jamais...

1777
01:16:34,502 --> 01:16:37,070
je connais un monde qui n'a pas
IA vraiment avancée.

1778
01:16:37,114 --> 01:16:39,856
En fait, nos enfants ne le feront jamais
être plus intelligent qu'une IA.

1779
01:16:39,899 --> 01:16:42,075
DANIEL : "Nos enfants
ne jamais être plus intelligent qu'une IA" ?

1780
01:16:42,119 --> 01:16:44,338
Eh bien, d'un point de vue brut,
du point de vue du QI brut,

1781
01:16:44,382 --> 01:16:46,253
ils ne le seront jamais
plus intelligent qu'une IA.

1782
01:16:46,297 --> 01:16:48,038
Cette notion ne
ça te perturbe un peu ?

1783
01:16:48,081 --> 01:16:51,128
Parce que ça me fait sentir
un peu nauséeux d'une manière bizarre.

1784
01:16:51,171 --> 01:16:54,784
Euh, ça me déstabilise
un peu.

1785
01:16:54,827 --> 01:16:56,263
Mais c'est la réalité.

1786
01:16:56,307 --> 01:16:58,265
DANIEL :
D'accord, donc la dynamique de la course.

1787
01:16:58,309 --> 01:17:01,007
Nous avons un groupe de personnes
qui sont tous d'accord

1788
01:17:01,051 --> 01:17:02,879
que c'est effrayant.

1789
01:17:02,922 --> 01:17:04,750
Sur la base des délais qui
beaucoup de gens m'ont donné,

1790
01:17:04,794 --> 01:17:07,013
nous avons entre deux mois et
cinq ans pour comprendre cela.

1791
01:17:07,057 --> 01:17:08,667
-Ouais.
-Et-et, je suppose,

1792
01:17:08,711 --> 01:17:12,845
ma plus grande question est :
Pourquoi ne pouvons-nous pas simplement arrêter ?

1793
01:17:14,499 --> 01:17:19,069
Le problème avec, euh, euh,
"Je m'arrête", c'est, euh,

1794
01:17:19,112 --> 01:17:22,202
il y a beaucoup, beaucoup de groupes maintenant
partout dans le monde, euh, euh,

1795
01:17:22,246 --> 01:17:25,684
construire ceci, pour
de nombreuses nations, de nombreuses entreprises,

1796
01:17:25,728 --> 01:17:28,121
euh, tout avec
motivations différentes.

1797
01:17:28,165 --> 01:17:30,776
Il y en a quelques-uns
ces entreprises dans cet espace

1798
01:17:30,820 --> 01:17:33,997
quelle est leur position : "Nous voulons
développer cette technologie

1799
01:17:34,040 --> 01:17:36,042
absolument aussi vite que possible.

1800
01:17:36,086 --> 01:17:40,046
Et même si nous pouvions adopter des lois
aux États-Unis et en Europe,

1801
01:17:40,090 --> 01:17:42,396
il faut convaincre...

1802
01:17:42,440 --> 01:17:44,964
Xi Jinping et Vladimir Poutine
ou, tu sais,

1803
01:17:45,008 --> 01:17:47,445
quel que soit leur scientifique
les conseillers sont de leur côté.

1804
01:17:47,488 --> 01:17:49,229
Ça va être vraiment dur.

1805
01:17:49,273 --> 01:17:50,927
je pense que c'est vrai

1806
01:17:50,970 --> 01:17:53,581
que si deux personnes sont
exactement au même endroit,

1807
01:17:53,625 --> 01:17:55,888
euh, celui qui est prêt à prendre
plus de raccourcis sur la sécurité

1808
01:17:55,932 --> 01:17:58,064
devrait en quelque sorte
"arrive-y en premier."

1809
01:17:58,108 --> 01:18:01,067
Euh, mais...

1810
01:18:01,111 --> 01:18:02,939
nous pouvons utiliser notre avance

1811
01:18:02,982 --> 01:18:05,985
passer beaucoup plus de temps
faire des tests de sécurité.

1812
01:18:06,029 --> 01:18:07,987
DANIEL :
Et si tu le perds ?

1813
01:18:08,031 --> 01:18:09,597
Vous recevez l'appel
et tu découvres

1814
01:18:09,641 --> 01:18:11,687
que tu es maintenant, disons,
six mois de retard.

1815
01:18:11,730 --> 01:18:14,254
-Qu-Que se passe-t-il alors ?
-Ça dépend de qui on est derrière.

1816
01:18:14,298 --> 01:18:16,822
Si c'est comme,
un gouvernement contradictoire,

1817
01:18:16,866 --> 01:18:18,824
c'est probablement très mauvais.

1818
01:18:18,868 --> 01:18:21,348
Alors disons que tu reçois l'appel
que la Chine a un,

1819
01:18:21,392 --> 01:18:24,787
a un récursif
agent d'auto-amélioration

1820
01:18:24,830 --> 01:18:27,180
ou quelque chose comme ça que nous
devrait vraiment s'inquiéter.

1821
01:18:27,224 --> 01:18:29,226
Que se passe-t-que-que se passe-t-il ?

1822
01:18:30,967 --> 01:18:32,403
Euh...

1823
01:18:35,406 --> 01:18:37,234
Ce cas nécessiterait...

1824
01:18:37,277 --> 01:18:40,672
la première étape serait
parler au gouvernement américain.

1825
01:18:40,716 --> 01:18:42,935
Sam, est-ce que tu fais confiance au
la capacité du gouvernement à gérer

1826
01:18:42,979 --> 01:18:44,676
quelque chose comme ça ?

1827
01:18:45,895 --> 01:18:47,766
Ouais, je le fais, en fait.

1828
01:18:47,810 --> 01:18:49,550
Il y a d'autres choses que je ne fais pas
faire confiance au gouvernement pour gérer,

1829
01:18:49,594 --> 01:18:51,161
mais ce scénario particulier,
Je pense qu'ils sauraient...

1830
01:18:51,204 --> 01:18:52,771
ils-ils-- oui.

1831
01:18:52,815 --> 01:18:54,425
DANIEL : Quand vous l'aurez fait,
comme des discussions privées

1832
01:18:54,468 --> 01:18:56,383
avec les autres gars dont
les doigts sont sur la gâchette,

1833
01:18:56,427 --> 01:18:59,604
pour ainsi dire, euh,
faire ces discussions privées

1834
01:18:59,647 --> 01:19:01,301
te remplir de confiance

1835
01:19:01,345 --> 01:19:03,347
ou est-ce qu'ils vous font,
euh, plus anxieux ?

1836
01:19:03,390 --> 01:19:07,090
Écoute, je veux dire, j'en connais
d'entre eux mieux que d'autres.

1837
01:19:07,133 --> 01:19:10,136
Euh, j'ai plus confiance
dans certains d'entre eux, ce que j'ai

1838
01:19:10,180 --> 01:19:12,356
dans d'autres, tu sais,
comme avec, comme avec n'importe quel peuple.

1839
01:19:12,399 --> 01:19:14,140
Tu sais,
tu penses, tu sais,

1840
01:19:14,184 --> 01:19:15,838
les enfants de ton lycée
cours ou quelque chose comme ça, non ?

1841
01:19:15,881 --> 01:19:18,275
Vous savez, certains d'entre eux le sont,
tu sais, vraiment gentil.

1842
01:19:18,318 --> 01:19:20,407
Certains d'entre eux sont bien intentionnés
mais pas si efficace que ça.

1843
01:19:20,451 --> 01:19:22,366
Certains d'entre eux sont,
vous savez, les tyrans.

1844
01:19:22,409 --> 01:19:23,759
Certains d'entre eux sont
des gens vraiment méchants.

1845
01:19:23,802 --> 01:19:25,673
[bégaie]
Toi-toi en quelque sorte vraiment,

1846
01:19:25,717 --> 01:19:27,066
vous voyez vraiment la propagation.

1847
01:19:27,110 --> 01:19:28,807
Tu sais, suis-je, suis-je,
suis-je confiant

1848
01:19:28,851 --> 01:19:30,548
que tout le monde va faire
la bonne chose,

1849
01:19:30,591 --> 01:19:32,028
que tout va s'arranger ?

1850
01:19:32,071 --> 01:19:33,856
Euh, non, je ne le suis pas.

1851
01:19:33,899 --> 01:19:35,509
Et il n'y a rien
Je peux y faire, n'est-ce pas ?

1852
01:19:35,553 --> 01:19:37,773
Tu sais, tout ce que je peux faire
c'est une poussée pour le,

1853
01:19:37,816 --> 01:19:39,165
poussez pour, vous savez,

1854
01:19:39,209 --> 01:19:40,776
faire pression pour le gouvernement
de s'impliquer.

1855
01:19:40,819 --> 01:19:42,647
Mais finalement je suis juste
une personne là aussi.

1856
01:19:42,690 --> 01:19:44,127
C'est...
c'est à nous tous

1857
01:19:44,170 --> 01:19:46,042
faire pression pour le gouvernement
de s'impliquer.

1858
01:19:46,085 --> 01:19:48,479
C'est la chose numéro un
c'est ce que je pense que nous devons faire

1859
01:19:48,522 --> 01:19:50,916
to-to, tu sais, pour régler les choses
dans la bonne direction.

1860
01:19:50,960 --> 01:19:52,744
Ce qui me rend anxieux
à propos de ça, c'est comme,

1861
01:19:52,788 --> 01:19:56,182
la réalité fondamentale que le
vitesse à laquelle la technologie

1862
01:19:56,226 --> 01:19:58,402
prolifère et grandit
est exponentiel,

1863
01:19:58,445 --> 01:20:01,448
et les mécanismes pour légiférer
ont 300 ans,

1864
01:20:01,492 --> 01:20:02,928
-prend une éternité.
-Ouais.

1865
01:20:02,972 --> 01:20:05,104
Euh, je-je pense
ça va être un gros travail.

1866
01:20:05,148 --> 01:20:06,889
Je-je suis tout à fait d'accord
avec vous là-dessus.

1867
01:20:06,932 --> 01:20:08,891
DANIEL : Tu sais,
ce que je recherche littéralement

1868
01:20:08,934 --> 01:20:11,241
c'est comme,
"Voici des étapes qui, par exemple,

1869
01:20:11,284 --> 01:20:15,158
"Les grands patrons vont
prendre pour se concentrer sur la sécurité,

1870
01:20:15,201 --> 01:20:18,117
pour atténuer le péril
et maximiser la promesse.

1871
01:20:18,161 --> 01:20:20,119
Et je ne le fais pas,
Je ne sais pas, je ne sais pas

1872
01:20:20,163 --> 01:20:21,817
qu'il y a
une réponse simple à cela.

1873
01:20:21,860 --> 01:20:23,296
Euh...

1874
01:20:25,951 --> 01:20:27,561
Je veux dire, c'est peut-être le cas
trop simple,

1875
01:20:27,605 --> 01:20:30,173
mais toi...

1876
01:20:30,216 --> 01:20:31,957
créer un nouveau modèle,

1877
01:20:32,001 --> 01:20:34,786
tu l'étudies et le testes
très soigneusement.

1878
01:20:34,830 --> 01:20:37,223
Tu l'as éteint
dans le monde progressivement,

1879
01:20:37,267 --> 01:20:39,530
et puis, de plus en plus,
tu comprends

1880
01:20:39,573 --> 01:20:41,227
si c'est sûr ou non,
et puis si c'est le cas,

1881
01:20:41,271 --> 01:20:42,707
vous pouvez passer à l'étape suivante.

1882
01:20:44,404 --> 01:20:47,103
Cela n'a pas l'air aussi flashy
comme un brillant scientifique

1883
01:20:47,146 --> 01:20:50,454
proposer une idée dans un
laboratoire pour créer un système d'IA, comme,

1884
01:20:50,497 --> 01:20:53,979
parfaitement sûr et contrôlable
et tout le reste,

1885
01:20:54,023 --> 01:20:55,720
mais c'est ce que je crois
ça va arriver.

1886
01:20:55,763 --> 01:20:57,287
C'est comme ça
Je pense que cela fonctionne.

1887
01:20:57,330 --> 01:20:59,289
Mais disons simplement
quelque chose de terrible arrive,

1888
01:20:59,332 --> 01:21:01,813
comme si un mannequin se détachait
ou devient voyou ou quelque chose comme ça.

1889
01:21:01,857 --> 01:21:03,467
Y a-t-il un protocole ?

1890
01:21:03,510 --> 01:21:05,817
Comme, littéralement,
J'imagine un téléphone rouge.

1891
01:21:05,861 --> 01:21:07,123
-Ouais.
-Désolé d'avoir pensé à ça

1892
01:21:07,166 --> 01:21:08,515
en termes de films, mais, comme...

1893
01:21:08,559 --> 01:21:09,995
Il existe un protocole.

1894
01:21:10,039 --> 01:21:11,475
-Y a-t-il un téléphone rouge
sur ton bureau ? -Non.

1895
01:21:11,518 --> 01:21:13,216
[rires] :
Est-ce un secret ?

1896
01:21:13,259 --> 01:21:15,392
Je veux dire, euh, non, ce n'est pas le cas,
ce n'est pas aussi sophistiqué ou dramatique

1897
01:21:15,435 --> 01:21:17,176
comme vous l'espériez,
mais il y a, tu sais...

1898
01:21:17,220 --> 01:21:18,874
nous avons, genre, réfléchi
ces scénarios,

1899
01:21:18,917 --> 01:21:20,527
et si cela arrive,
nous allons appeler ces gens

1900
01:21:20,571 --> 01:21:21,964
dans cet ordre et fais ceci

1901
01:21:22,007 --> 01:21:23,443
et en quelque sorte faire
ces décisions si, comme...

1902
01:21:23,487 --> 01:21:26,055
je crois que
quand tu as l'occasion

1903
01:21:26,098 --> 01:21:29,058
réfléchir avant
une situation stressante se produit,

1904
01:21:29,101 --> 01:21:30,407
c'est presque toujours le cas
une bonne idée.

1905
01:21:30,450 --> 01:21:31,756
Et l’écrire est utile.

1906
01:21:31,799 --> 01:21:33,279
-Être préparé est utile.
-Ouais.

1907
01:21:34,324 --> 01:21:36,021
[soupirs] Tu...

1908
01:21:36,065 --> 01:21:38,763
Ce serait impossible
pour que je m'assoie en face de toi

1909
01:21:38,806 --> 01:21:41,157
et-et je te demande de me promettre
que ça va bien se passer ?

1910
01:21:41,200 --> 01:21:43,855
C'est impossible.

1911
01:21:43,899 --> 01:21:45,683
Il n'y a pas de réponses faciles,
malheureusement.

1912
01:21:45,726 --> 01:21:48,077
Euh, parce que c'est tel
une technologie de pointe,

1913
01:21:48,120 --> 01:21:49,774
euh, il y a encore
beaucoup d'inconnues.

1914
01:21:49,817 --> 01:21:52,255
Et je pense que
ça-ça doit être,

1915
01:21:52,298 --> 01:21:55,040
euh, euh, tu sais, j'ai compris

1916
01:21:55,084 --> 01:21:58,957
et-et donc la nécessité
pour, euh, euh, une certaine prudence.

1917
01:21:59,001 --> 01:22:00,872
Je me réveille, tu sais, tous les jours,

1918
01:22:00,916 --> 01:22:03,440
c'est le, c'est le
la première chose à laquelle je pense.

1919
01:22:03,483 --> 01:22:05,137
Maintenant, écoute, je suis humain,

1920
01:22:05,181 --> 01:22:08,358
et, tu sais, il y a des choses
chaque décision a été parfaite ?

1921
01:22:08,401 --> 01:22:11,622
Puis-je même dire mes motivations
étaient toujours parfaitement clairs ?

1922
01:22:11,665 --> 01:22:13,537
Bien sûr que non.
Personne ne peut dire ça.

1923
01:22:13,580 --> 01:22:16,366
Genre, c'est-c'est
mais pas, tu sais...

1924
01:22:16,409 --> 01:22:18,629
c'est-ce n'est tout simplement pas
comment les gens travaillent.

1925
01:22:18,672 --> 01:22:21,023
L'histoire des sciences
ça a tendance à être ça,

1926
01:22:21,066 --> 01:22:23,547
pour le meilleur ou pour le pire,
si quelque chose est possible à faire...

1927
01:22:23,590 --> 01:22:26,985
et nous savons maintenant que l'IA est possible
faire... l'humanité le fait.

1928
01:22:27,029 --> 01:22:29,727
Tout cela
ça allait arriver.

1929
01:22:29,770 --> 01:22:32,295
Ce-ce train
ça ne va pas s'arrêter.

1930
01:22:32,338 --> 01:22:34,253
Tu ne peux pas passer devant
le train et l'arrêter.

1931
01:22:34,297 --> 01:22:36,255
Tu vas juste être écrasé.

1932
01:22:36,299 --> 01:22:38,388
ALTMAN :
Je veux dire, c'est très stressant.

1933
01:22:39,606 --> 01:22:41,043
Tu sais, il y a, genre,

1934
01:22:41,086 --> 01:22:42,653
beaucoup de choses
beaucoup d'entre nous ne le savent pas.

1935
01:22:42,696 --> 01:22:46,352
je pense que l'histoire
de la découverte scientifique est

1936
01:22:46,396 --> 01:22:48,267
celui de ne pas savoir
ce que tu ne sais pas

1937
01:22:48,311 --> 01:22:49,660
et comprendre au fur et à mesure.

1938
01:22:49,703 --> 01:22:52,968
Euh, mais oui, c'est un...

1939
01:22:53,011 --> 01:22:56,580
c'est une façon de vivre stressante.

1940
01:22:56,623 --> 01:22:58,756
DANIEL : C’est vrai. Sam, merci
beaucoup pour avoir fait cela.

1941
01:22:58,799 --> 01:23:00,497
-Et encore, mazel tov.
-Merci. Et à vous.

1942
01:23:00,540 --> 01:23:02,673
Merci beaucoup. Merci les gars.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[soupirs]

1945
01:23:10,986 --> 01:23:13,162
[crépitement d'électricité]

1946
01:23:13,205 --> 01:23:15,599
-[des craquements de tonnerre]
-[soufflé, grognant]

1947
01:23:42,626 --> 01:23:44,628
-[Clics sur le magnétoscope]
-[ligne qui sonne]

1948
01:23:47,848 --> 01:23:49,285
-[clics sur la ligne]
-KEVIN ROHER : Bonjour.

1949
01:23:49,328 --> 01:23:50,547
DANIEL :
Hé, papa, comment vas-tu ?

1950
01:23:50,590 --> 01:23:51,591
KÉVIN :
Bien. Comment ça va?

1951
01:23:51,635 --> 01:23:53,071
Tu travailles ? Qu'est-ce que tu fais?

1952
01:23:53,115 --> 01:23:55,247
DANIEL :
Je travaille sur ce film sur l'IA.

1953
01:23:55,291 --> 01:23:57,815
KÉVIN :
Et comment ça va ?

1954
01:23:57,858 --> 01:24:00,426
DANIEL :
Tu sais, c'est... c'est vraiment...

1955
01:24:00,470 --> 01:24:02,167
-JOANNE ROHER : Salut, chérie.
-DANIEL : Salut, maman.

1956
01:24:02,211 --> 01:24:03,864
JOANNE : Alors qu’est-ce que
la prémisse du film ?

1957
01:24:03,908 --> 01:24:06,519
Est-ce un documentaire ?
Kev, n'utilise plus d'épices.

1958
01:24:06,563 --> 01:24:08,304
C'est déjà trop épicé.

1959
01:24:08,347 --> 01:24:10,436
Nous préparons du poulet en ce moment.

1960
01:24:10,480 --> 01:24:12,612
-C'est un documentaire ou quoi...
-DANIEL : Il s'agit de...

1961
01:24:12,656 --> 01:24:13,961
le film parle
la fin du monde.

1962
01:24:14,005 --> 01:24:15,789
La fin du monde approche,

1963
01:24:15,833 --> 01:24:17,574
et nous faisons un film
sur la fin du monde.

1964
01:24:17,617 --> 01:24:19,837
-JOANNE : Vraiment ?
-DANIEL : Ouais.

1965
01:24:19,880 --> 01:24:21,578
KEVIN : Un peu déprimant
film, on dirait.

1966
01:24:21,621 --> 01:24:23,449
JEANNE :
Ouais.

1967
01:24:23,493 --> 01:24:28,976
DANIEL : Je ressens beaucoup de choses,
comme... cette anxiété très aiguë.

1968
01:24:29,020 --> 01:24:31,370
JOANNE : C’est tellement effrayant,
mais il doit y avoir...

1969
01:24:31,414 --> 01:24:35,287
tu sais, as-tu rencontré
des gens super intelligents

1970
01:24:35,331 --> 01:24:37,768
qui vous donne des réponses ?

1971
01:24:37,811 --> 01:24:39,465
DANIEL : C'est ce que c'est
frustrant à ce sujet.

1972
01:24:39,509 --> 01:24:41,337
Personne ne le sait.

1973
01:24:41,380 --> 01:24:43,904
JEANNE :
Tout ce que je peux dire, c'est que

1974
01:24:43,948 --> 01:24:49,867
chaque génération a eu
quelque chose d'effrayant comme ça.

1975
01:24:49,910 --> 01:24:52,217
KEVIN : Quand je suis né, c'était
la crise des missiles de Cuba.

1976
01:24:52,261 --> 01:24:54,263
[battement de coeur régulier]

1977
01:24:54,306 --> 01:24:56,352
J'avais juste peur là
allait être une guerre nucléaire.

1978
01:24:56,395 --> 01:24:57,744
JEANNE :
Ouais, mais nous ne savions pas

1979
01:24:57,788 --> 01:24:59,094
ce qu'ils allaient faire et...

1980
01:24:59,137 --> 01:25:00,530
KÉVIN :
Et le monde n'a pas pris fin.

1981
01:25:00,573 --> 01:25:01,618
Tout le monde s'est réveillé
le lendemain matin,

1982
01:25:01,661 --> 01:25:03,402
et nous faisons toujours notre truc.

1983
01:25:03,446 --> 01:25:04,969
DANIEL :
j'ai très peur,

1984
01:25:05,012 --> 01:25:06,840
surtout dans
le contexte de, comme,

1985
01:25:06,884 --> 01:25:09,147
-tu sais, le bébé et...
-[battement de coeur fœtal pulsé]

1986
01:25:09,191 --> 01:25:10,540
KÉVIN :
Ce sera une courbe d'apprentissage.

1987
01:25:10,583 --> 01:25:12,063
JEANNE :
Tout ira bien.

1988
01:25:12,107 --> 01:25:13,064
KEVIN : Tu ne peux pas,
tu ne peux pas penser à

1989
01:25:13,108 --> 01:25:14,326
ce que tu ne peux pas contrôler, Daniel.

1990
01:25:14,370 --> 01:25:16,154
N'oubliez pas cela.

1991
01:25:16,198 --> 01:25:17,677
DANIEL [voix brisée] :
Je me sens vraiment, je me sens vraiment

1992
01:25:17,721 --> 01:25:19,201
nerveux et effrayé à ce sujet.

1993
01:25:19,244 --> 01:25:21,028
Il y a tellement
que je ne peux pas contrôler.

1994
01:25:21,072 --> 01:25:23,857
KEVIN : Ne sois pas nerveux.
Vous ne pouvez pas laisser cela vous atteindre.

1995
01:25:23,901 --> 01:25:26,251
Vous ne pouvez contrôler que
ce que vous pouvez contrôler,

1996
01:25:26,295 --> 01:25:27,905
et c'est tout ce que vous pouvez faire.

1997
01:25:27,948 --> 01:25:30,603
Vous ne pouvez pas faire plus que ça.

1998
01:25:30,647 --> 01:25:32,649
Écrivez cela dans votre livre.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[battement de coeur fœtal palpitant]

2001
01:25:46,706 --> 01:25:49,231
[hurlant]

2002
01:25:49,274 --> 01:25:51,581
CAROLINE :
Quand tu regardes en arrière,

2003
01:25:51,624 --> 01:25:54,453
le monde se termine toujours.

2004
01:25:54,497 --> 01:25:56,803
Et quand tu regardes devant toi,

2005
01:25:56,847 --> 01:25:59,241
le monde se termine toujours.

2006
01:25:59,284 --> 01:26:02,157
...en feu.
Une maison est déjà en feu...

2007
01:26:02,200 --> 01:26:05,377
CAROLINE : Mais le monde
ça commence toujours aussi.

2008
01:26:07,988 --> 01:26:09,947
DANIEL :
Êtes-vous prêt ?

2009
01:26:09,990 --> 01:26:11,992
Êtes-vous vraiment prêt ?

2010
01:26:15,909 --> 01:26:17,650
DANIEL : Tu veux conduire
ou tu veux que je conduise ?

2011
01:26:17,694 --> 01:26:18,782
CAROLINE :
Vous conduisez.

2012
01:26:20,479 --> 01:26:21,828
-[la femme parle indistinctement]
-CAROLINE : D'accord.

2013
01:26:21,872 --> 01:26:23,700
DANIEL :
Merci, Marie.

2014
01:26:23,743 --> 01:26:26,268
FEMME : Ça va juste
j'ai vraiment des crampes.

2015
01:26:26,311 --> 01:26:27,791
-CAROLINE : D'accord.
-FEMME : Tu es prête ?

2016
01:26:27,834 --> 01:26:29,053
-CAROLINE : Oui.
-[bavardage indistinct]

2017
01:26:29,096 --> 01:26:30,924
[Caroline soupire lourdement]

2018
01:26:30,968 --> 01:26:32,404
FEMME : Vous pourriez être dans un
drame médical avec tout ça...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[crépitements statiques]
-[bavardage indistinct]

2021
01:26:49,116 --> 01:26:51,075
FEMME :
...une certaine pression.

2022
01:26:52,685 --> 01:26:54,078
Détendez-vous.

2023
01:26:56,907 --> 01:26:59,214
-[bébé pleure]
-[bip de l'appareil]

2024
01:27:02,129 --> 01:27:04,915
DANIEL :
Salut, mon pote. Ooh.

2025
01:27:04,958 --> 01:27:06,438
Salut, mon pote.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
KÉVIN :
Ce sera un tout nouveau monde

2028
01:27:33,726 --> 01:27:35,032
pour toi, Daniel.

2029
01:27:37,208 --> 01:27:40,080
Et je pense que tu vas l'être
un père extraordinaire.

2030
01:27:41,517 --> 01:27:44,346
JOANNE [rires] :
C'est sûr.

2031
01:27:44,389 --> 01:27:46,609
--[Kevin pleure]
-Oh.

2032
01:27:46,652 --> 01:27:48,654
[les pleurs continuent]

2033
01:27:48,698 --> 01:27:50,787
KÉVIN :
Vous allez faire un excellent travail.

2034
01:27:51,788 --> 01:27:53,050
JEANNE :
Kev, pourquoi tu pleures ?

2035
01:27:53,093 --> 01:27:54,617
KÉVIN :
Je pleure parce que...

2036
01:27:54,660 --> 01:27:57,054
Je ne sais pas. Je ne le fais tout simplement pas...

2037
01:27:57,097 --> 01:27:59,317
DANIEL : Papa, tu vas
fais-moi pleurer aussi.

2038
01:27:59,361 --> 01:28:00,710
Pourquoi pleures-tu ?

2039
01:28:03,190 --> 01:28:05,497
KEVIN : Je le sais juste
tu vas être un père extraordinaire.

2040
01:28:05,541 --> 01:28:07,107
DANIEL [pleurant] :
Je vais seulement être un bon père

2041
01:28:07,151 --> 01:28:09,675
parce que j'avais un père formidable.

2042
01:28:09,719 --> 01:28:12,287
KEVIN : Je deviens émotif,
c'est tout.

2043
01:28:12,330 --> 01:28:13,679
JEANNE :
Oh.

2044
01:28:13,723 --> 01:28:14,898
[bavardage ludique en vidéo]

2045
01:28:14,941 --> 01:28:16,552
[en vidéo] :
Garçon, oh, garçon !

2046
01:28:16,595 --> 01:28:17,857
Mon Dieu !

2047
01:28:18,902 --> 01:28:20,817
Regardez ces petits effrontés.

2048
01:28:20,860 --> 01:28:24,777
Regardez ces petits effrontés.
Regardez ces petits effrontés.

2049
01:28:24,821 --> 01:28:26,344
Ouais.

2050
01:28:26,388 --> 01:28:28,433
DANIEL :
Je sais comment terminer ce film.

2051
01:28:29,478 --> 01:28:32,263
Bébés.

2052
01:28:32,307 --> 01:28:35,266
-La fin du film parle
bébés.-[bavardage sur des vidéos]

2053
01:28:35,310 --> 01:28:37,094
Ils affirment la vie.

2054
01:28:37,137 --> 01:28:38,922
Ils sont épuisants.

2055
01:28:38,965 --> 01:28:40,793
-[bébé rit]
-Ils sont hilarants.

2056
01:28:40,837 --> 01:28:42,665
Et ils en valent la peine.

2057
01:28:42,708 --> 01:28:46,451
Ce film ne parle pas de
fonctionnement interne d’une technologie.

2058
01:28:46,495 --> 01:28:48,235
Il ne s'agit pas
les PDG milliardaires.

2059
01:28:48,279 --> 01:28:50,194
Il ne s'agit pas de géopolitique.

2060
01:28:50,237 --> 01:28:53,589
Il ne s'agit pas du terrifiant
l'avenir ou la fin du monde,

2061
01:28:53,632 --> 01:28:55,678
parce que mon monde
ne fait que commencer.

2062
01:28:55,721 --> 01:28:57,375
Je construis un berceau.

2063
01:28:57,419 --> 01:28:59,290
Ici, maintenant.

2064
01:28:59,334 --> 01:29:00,465
[bébé roucoule]

2065
01:29:00,509 --> 01:29:02,337
L'IA va tout changer

2066
01:29:02,380 --> 01:29:05,601
d'une manière trop puissante et
complexe à comprendre pour nous.

2067
01:29:05,644 --> 01:29:08,952
Et l'avenir n'est pas
à chacun d'entre nous de décider.

2068
01:29:10,736 --> 01:29:13,609
Mais ce que je peux décider, c'est d'être
le meilleur mari possible

2069
01:29:13,652 --> 01:29:17,700
pour ma femme et le meilleur
papa possible pour mon fils.

2070
01:29:17,743 --> 01:29:21,399
Alors, que notre avenir en matière d'IA soit
une dystopie cauchemardesque

2071
01:29:21,443 --> 01:29:23,836
ou l'utopie
dont nous rêvons tous,

2072
01:29:23,880 --> 01:29:26,883
je saurai au moins
que j'ai fait tout ce que je pouvais

2073
01:29:26,926 --> 01:29:30,103
pour guider ma famille
à travers cette révolution de l’IA.

2074
01:29:30,147 --> 01:29:33,846
Et quoi qu'il arrive,
nous y ferons face ensemble.

2075
01:29:33,890 --> 01:29:35,195
[la musique exaltante gonfle]

2076
01:29:35,239 --> 01:29:36,806
[la musique s'arrête brusquement]

2077
01:29:36,849 --> 01:29:40,505
DANIEL :
Ce n'est donc que notre première idée.

2078
01:29:40,549 --> 01:29:42,812
Qu’est-ce que ça fait ?
Est-ce que vous ressentez cela ?

2079
01:29:42,855 --> 01:29:45,249
Attends, je... genre, ce n'est pas...
c'est une blague.

2080
01:29:45,292 --> 01:29:47,425
Ce n'est pas en fait
comment tu vas y mettre fin.

2081
01:29:50,036 --> 01:29:52,648
Je veux dire, c'est juste une idée. D'accord?

2082
01:29:52,691 --> 01:29:54,389
Non, Daniel.

2083
01:29:54,432 --> 01:29:56,129
... euh, très, très stupide.

2084
01:29:56,173 --> 01:29:58,915
Tu viens de dépenser, pas moi
je sais combien d'années

2085
01:29:58,958 --> 01:30:02,571
de notre vie à travailler là-dessus,
parler à tous les grands experts

2086
01:30:02,614 --> 01:30:04,964
sur la planète à ce sujet,

2087
01:30:05,008 --> 01:30:07,663
et tu vas y mettre fin

2088
01:30:07,706 --> 01:30:10,796
avec certains, comme,
conneries de Kumbaya ?

2089
01:30:10,840 --> 01:30:13,495
Il y a un astéroïde
se dirigea vers la Terre.

2090
01:30:13,538 --> 01:30:15,497
Que fais-tu? Juste...

2091
01:30:15,540 --> 01:30:17,629
se tenir la main
et j'espère que ça marchera, d'accord ?

2092
01:30:17,673 --> 01:30:19,414
Absolument pas.

2093
01:30:19,457 --> 01:30:22,286
Nous devons... c'est ha...
ça doit être...

2094
01:30:22,329 --> 01:30:24,419
La fin doit...

2095
01:30:25,855 --> 01:30:27,900
CAROLINE :
Bon, première chose :

2096
01:30:27,944 --> 01:30:31,426
L'IA est là,
et il est là pour rester.

2097
01:30:31,469 --> 01:30:32,905
La merde est hors du cheval,

2098
01:30:32,949 --> 01:30:35,430
mais le cheval est
je vais continuer à chier.

2099
01:30:38,171 --> 01:30:39,651
[la foule applaudit]

2100
01:30:39,695 --> 01:30:41,566
Vous savez, l'un des éléments de base
les lois de l'histoire

2101
01:30:41,610 --> 01:30:44,003
est-ce que ce n'est rien
j'ai vraiment un début

2102
01:30:44,047 --> 01:30:45,962
et rien n'a de fin.

2103
01:30:46,005 --> 01:30:47,703
Cela continue.

2104
01:30:47,746 --> 01:30:50,532
L’IA est loin
son plein développement.

2105
01:30:50,575 --> 01:30:52,795
CAROLINE : Même si
la bulle IA actuelle éclate,

2106
01:30:52,838 --> 01:30:54,579
-les humains ne s'arrêteront jamais
-[le bruiteur souffle]

2107
01:30:54,623 --> 01:30:57,539
construire de plus en plus
technologie puissante.

2108
01:30:57,582 --> 01:30:59,410
HAO :
Vous pouvez choisir de ne pas utiliser l'IA

2109
01:30:59,454 --> 01:31:02,239
ou y participer, mais c'est
ça va vous affecter de toute façon.

2110
01:31:02,282 --> 01:31:04,023
DANIEL : D’accord, fantastique.
Donc nous sommes foutus.

2111
01:31:04,067 --> 01:31:06,635
CAROLINE : Non, nous ne le sommes pas
à cause d'une chose simple.

2112
01:31:10,943 --> 01:31:12,989
Ce n’est pas une fatalité.

2113
01:31:13,032 --> 01:31:15,208
Si seulement nous pouvions le voir
clairement ensemble,

2114
01:31:15,252 --> 01:31:18,342
la réponse évidente sera
choisir quelque chose de différent.

2115
01:31:18,385 --> 01:31:21,040
Nous devons très clairement
changer le jeu

2116
01:31:21,084 --> 01:31:23,129
d'une course vers le bas
dans une course vers le sommet.

2117
01:31:23,173 --> 01:31:27,438
LEAHY : Le problème que nous devons résoudre
la résolution n’est pas spécifiquement l’IA.

2118
01:31:27,482 --> 01:31:31,224
C'est la question générale
de comment construire une société

2119
01:31:31,268 --> 01:31:33,879
qui peut traiter
technologie puissante.

2120
01:31:33,923 --> 01:31:35,359
Parce que nous allons obtenir

2121
01:31:35,402 --> 01:31:36,795
seulement de plus en plus puissant
technologie.

2122
01:31:36,839 --> 01:31:39,668
CAROLINE :
Nous devons améliorer notre société,

2123
01:31:39,711 --> 01:31:41,496
et la première étape est
se réunir

2124
01:31:41,539 --> 01:31:43,367
-et exigeant...
-TOUS : Coordination.

2125
01:31:43,410 --> 01:31:47,023
Une certaine forme de coopération internationale
coopération ou accord sur

2126
01:31:47,066 --> 01:31:48,503
quelles devraient être les normes.

2127
01:31:48,546 --> 01:31:49,895
Vous savez, comment devrait
ils seront déployés...

2128
01:31:49,939 --> 01:31:51,549
Genre, réel
diplomatie internationale

2129
01:31:51,593 --> 01:31:53,290
parmi les superpuissances.

2130
01:31:53,333 --> 01:31:56,293
Les Chinois sont tout aussi inquiets
à ce sujet comme les Américains.

2131
01:31:56,336 --> 01:31:57,729
Je pense que c'est difficile,
tu sais,

2132
01:31:57,773 --> 01:31:59,514
dans le courant
le climat géopolitique,

2133
01:31:59,557 --> 01:32:01,254
-mais je pense que c'est nécessaire.
-RASKIN : Absolument.

2134
01:32:01,298 --> 01:32:04,693
De la même manière que
la dernière fois que l'humanité

2135
01:32:04,736 --> 01:32:09,611
développé une technologie
c'est dangereux...

2136
01:32:09,654 --> 01:32:12,396
...qui nécessitait un travail complet,
changement sans précédent

2137
01:32:12,439 --> 01:32:15,530
à la structure de notre monde.

2138
01:32:15,573 --> 01:32:17,619
CAROLINE :
Nous devons donc faire cela complètement,

2139
01:32:17,662 --> 01:32:20,883
encore une fois un changement sans précédent.

2140
01:32:20,926 --> 01:32:24,103
Tu sais, nous parlons aux gens
qui travaillent dans ces sociétés d'IA,

2141
01:32:24,147 --> 01:32:25,322
et ils disent qu'ils veulent faire
quelque chose de différent,

2142
01:32:25,365 --> 01:32:26,628
mais ils ont besoin de la pression du public.

2143
01:32:26,671 --> 01:32:28,151
Ils ont besoin du gouvernement
faire quelque chose.

2144
01:32:28,194 --> 01:32:29,979
Alors on va à DC,
et ils disent,

2145
01:32:30,022 --> 01:32:31,850
"Eh bien, nous avons besoin de la Silicon Valley
faire quelque chose de différent.

2146
01:32:31,894 --> 01:32:33,635
Ce sont eux qui vont
inventez les garde-corps.

2147
01:32:33,678 --> 01:32:35,680
Et donc tout le monde pointe du doigt
le doigt sur quelqu'un d'autre,

2148
01:32:35,724 --> 01:32:39,466
et ce sur quoi ils sont d'accord, c'est
que nous avons besoin de la pression du public

2149
01:32:39,510 --> 01:32:41,207
pour autre chose
arriver.

2150
01:32:41,251 --> 01:32:42,818
Et c'est ce que tu

2151
01:32:42,861 --> 01:32:44,254
et tout le monde
regarder ce film peut faire.

2152
01:32:44,297 --> 01:32:45,298
CAROLINE :
Nous devons retenir les dirigeants

2153
01:32:45,342 --> 01:32:47,083
dans nos gouvernements

2154
01:32:47,126 --> 01:32:48,563
et les dirigeants de
ces entreprises responsables.

2155
01:32:48,606 --> 01:32:51,000
BOÉRÉE :
Quel que soit le pays dans lequel vous vous trouvez,

2156
01:32:51,043 --> 01:32:52,871
faites-leur savoir
que tu n'es pas content

2157
01:32:52,915 --> 01:32:54,569
avec le statu quo actuel.

2158
01:32:54,612 --> 01:32:57,093
Alors oui, c'est ennuyeux à dire
appelez votre membre du Congrès.

2159
01:32:57,136 --> 01:32:59,356
Je ne dis pas que tu devrais
fais juste ça, mais, genre,

2160
01:32:59,399 --> 01:33:00,923
nous devons le faire.

2161
01:33:00,966 --> 01:33:02,402
Genre, nous devons obtenir
le gouvernement impliqué.

2162
01:33:02,446 --> 01:33:03,839
DANIEL : Donc nous avons juste
appelle-les et dis-leur,

2163
01:33:03,882 --> 01:33:05,971
"Hé, arrête Big Tech
de ruiner le monde" ?

2164
01:33:06,015 --> 01:33:08,887
CAROLINE : Non, mais il y a
des tonnes de choses vraiment évidentes,

2165
01:33:08,931 --> 01:33:10,672
des choses simples
nous pouvons être exigeants.

2166
01:33:10,715 --> 01:33:12,499
Nous avons besoin de transparence.

2167
01:33:12,543 --> 01:33:14,240
Nous devons mettre fin au secret
qui existe à l'intérieur de ces laboratoires,

2168
01:33:14,284 --> 01:33:16,634
parce qu'ils construisent
une technologie puissante,

2169
01:33:16,678 --> 01:33:18,680
et le public mérite de savoir
que se passe-t-il.

2170
01:33:18,723 --> 01:33:20,682
En fin de compte,
nous aurons besoin d'indépendants,

2171
01:33:20,725 --> 01:33:23,249
des tiers objectifs
pour évaluer les systèmes.

2172
01:33:23,293 --> 01:33:27,036
On ne peut pas compter sur les entreprises
pour noter leurs propres devoirs.

2173
01:33:27,079 --> 01:33:31,170
Si-si une entreprise utilise l'IA et-et
l'IA interagit-elle avec vous,

2174
01:33:31,214 --> 01:33:34,957
il devrait révéler que vous êtes
interagir avec un système d’IA.

2175
01:33:35,000 --> 01:33:38,613
Ouais. Et-et aussi nous avons besoin
un système qui rend les entreprises

2176
01:33:38,656 --> 01:33:41,833
légalement responsable de
Systèmes d’IA qu’ils produisent.

2177
01:33:41,877 --> 01:33:45,750
Nous devons nous assurer qu'il y a
sont des tests et des normes de sécurité

2178
01:33:45,794 --> 01:33:48,013
qui s'appliquent à tous.

2179
01:33:48,057 --> 01:33:49,711
Nous avons besoin de règles de base,

2180
01:33:49,754 --> 01:33:51,538
et nous devons continuer à nous adapter
ces règles

2181
01:33:51,582 --> 01:33:54,585
à la vitesse à laquelle
la technologie évolue.

2182
01:33:54,629 --> 01:33:57,153
LEAHY : Il y a actuellement
plus de réglementation

2183
01:33:57,196 --> 01:33:59,285
sur la vente d'un sandwich
au public

2184
01:33:59,329 --> 01:34:02,898
qu'il n'y en a sur la construction
AGI potentiellement de fin mondiale.

2185
01:34:02,941 --> 01:34:04,682
CAROLINE :
Et la dernière chose est

2186
01:34:04,726 --> 01:34:07,598
pour nous améliorer.

2187
01:34:07,642 --> 01:34:09,731
Ce n'est pas le travail
de l'équipe de sécurité

2188
01:34:09,774 --> 01:34:11,733
dans un laboratoire donné, ou le PDG.

2189
01:34:11,776 --> 01:34:13,299
Donc, genre, c'est
le travail de chacun.

2190
01:34:13,343 --> 01:34:14,779
Ne le laisse pas
aux experts en IA.

2191
01:34:14,823 --> 01:34:16,955
Genre, [bip] ça.
Genre, c'est le moment

2192
01:34:16,999 --> 01:34:19,262
que nous sommes en transition
de, comme,

2193
01:34:19,305 --> 01:34:21,525
puissance cognitive principalement humaine
à, comme, le pouvoir cognitif de l'IA,

2194
01:34:21,568 --> 01:34:23,092
et ça touche tout le monde,

2195
01:34:23,135 --> 01:34:24,833
et je veux que les gens soient
participer à cette conversation.

2196
01:34:24,876 --> 01:34:26,878
Et je dirais, si tu penses
que l'IA va tous nous tuer,

2197
01:34:26,922 --> 01:34:28,488
tu devrais travailler
dans la recherche en IA

2198
01:34:28,532 --> 01:34:30,229
pour être sûr que ce n'est pas le cas,
parce que tu as

2199
01:34:30,273 --> 01:34:32,188
une énorme quantité d’agence.

2200
01:34:32,231 --> 01:34:33,842
CAROLINE :
Qui que tu sois,

2201
01:34:33,885 --> 01:34:35,844
tu es un expert
dans votre propre industrie,

2202
01:34:35,887 --> 01:34:39,151
dans votre propre école,
dans ta propre famille,

2203
01:34:39,195 --> 01:34:42,589
et c'est à toi de décider
comment l'IA est utilisée dans votre vie.

2204
01:34:42,633 --> 01:34:44,983
Que vous souhaitiez rejoindre
votre commission scolaire

2205
01:34:45,027 --> 01:34:47,856
ou-ou si tu veux demander
votre employeur

2206
01:34:47,899 --> 01:34:49,379
comment ils utilisent
technologies d'IA,

2207
01:34:49,422 --> 01:34:51,947
comme si nous pouvions tous faire le travail.

2208
01:34:51,990 --> 01:34:56,081
De nombreux syndicats ont été
assez efficace pour, comme,

2209
01:34:56,125 --> 01:34:59,041
déterminer comment ils veulent
pour interagir avec ces systèmes.

2210
01:34:59,084 --> 01:35:02,697
-Syndicats d'infirmières, syndicats d'enseignants.
-[chant indistinct]

2211
01:35:02,740 --> 01:35:04,568
DANIELA AMODEI : J'adorerais
si les parents partout

2212
01:35:04,611 --> 01:35:06,135
je suis allé voir les sociétés d'IA
et dit,

2213
01:35:06,178 --> 01:35:08,006
"Comment peux-tu être meilleur
à ce sujet ?" Y compris nous.

2214
01:35:08,050 --> 01:35:11,183
J'ai donc fondé Encode Justice
quand j'avais 15 ans.

2215
01:35:11,227 --> 01:35:14,839
Nous sommes les premiers au monde
et la plus grande armée de jeunes

2216
01:35:14,883 --> 01:35:18,364
lutter pour une approche centrée sur l'humain
intelligence artificielle.

2217
01:35:18,408 --> 01:35:21,019
Peu importe qui tu es,
même les plus petits gestes aident,

2218
01:35:21,063 --> 01:35:23,935
et même une conversation commence
est vraiment très précieux.

2219
01:35:23,979 --> 01:35:25,937
DANIEL :
Donc mon travail pourrait être, genre,

2220
01:35:25,981 --> 01:35:27,939
parle de ça à Bubby Lila
au dîner ?

2221
01:35:27,983 --> 01:35:29,767
CAROLINE : Honnêtement, ouais,
ça en fait partie.

2222
01:35:29,811 --> 01:35:31,638
Et nous allons devoir faire

2223
01:35:31,682 --> 01:35:34,424
beaucoup de choses qui
nous n'y avons même pas encore pensé.

2224
01:35:34,467 --> 01:35:36,034
Les gens vont regarder
tout ce que nous avons décrit

2225
01:35:36,078 --> 01:35:37,253
et dites: "Ce n'est pas suffisant."

2226
01:35:37,296 --> 01:35:38,950
Ce qui compte c'est que les forces

2227
01:35:38,994 --> 01:35:40,909
qui fonctionnent
vers des solutions

2228
01:35:40,952 --> 01:35:44,434
commencer à dépasser les forces qui
travaillent contre des solutions.

2229
01:35:44,477 --> 01:35:46,392
Rendre le monde meilleur
a toujours été difficile.

2230
01:35:46,436 --> 01:35:47,829
Cela n'a jamais été facile.

2231
01:35:47,872 --> 01:35:49,961
Genre, il y a eu
plein de choses merdiques

2232
01:35:50,005 --> 01:35:51,920
ce qui s'est produit dans l'histoire,
et nous avons eu...

2233
01:35:51,963 --> 01:35:53,704
genre, les gens ont eu
pour gérer ça,

2234
01:35:53,748 --> 01:35:56,794
et puis ils se sont levés
et je l'ai changé.

2235
01:35:56,838 --> 01:36:00,319
Il y en a un nombre fou
des défis qui nous attendent,

2236
01:36:00,363 --> 01:36:04,106
mais si nous pouvons les dépasser,

2237
01:36:04,149 --> 01:36:08,066
nous pouvons débloquer un avenir au-delà
notre imagination la plus folle.

2238
01:36:08,110 --> 01:36:10,416
CAROLINE :
Nous devons nous réunir

2239
01:36:10,460 --> 01:36:14,246
et trouver le chemin entre
la promesse et le péril.

2240
01:36:14,290 --> 01:36:16,422
Nous ne pouvons pas être pessimistes
ou optimistes.

2241
01:36:17,423 --> 01:36:19,425
Nous devons devenir quelque chose de nouveau.

2242
01:36:21,732 --> 01:36:24,474
Un de mes amis m'appelle
un apocaloptimiste.

2243
01:36:24,517 --> 01:36:26,041
"Apocaloptimiste" ?

2244
01:36:26,084 --> 01:36:28,260
Je pense que ça pourrait être
mon nouveau mot préféré.

2245
01:36:28,304 --> 01:36:29,914
-[rires] -HOMME : Peut-être
le nom de ce film.

2246
01:36:29,958 --> 01:36:31,263
-C'est peut-être le nom
de ce film. --[rires]

2247
01:36:31,307 --> 01:36:34,179
-"Apocaloptimiste."
-"Apocaloptimiste."

2248
01:36:34,223 --> 01:36:35,833
Ouais.

2249
01:36:35,877 --> 01:36:37,269
Je ne crois pas au malheur.

2250
01:36:37,313 --> 01:36:39,054
Je crois en l'esprit de la vie,

2251
01:36:39,097 --> 01:36:42,666
euh, et je crois que la vie est
sur la capacité d’agir.

2252
01:36:42,709 --> 01:36:44,276
-[chant de la foule]
-La capacité à communiquer,

2253
01:36:44,320 --> 01:36:46,365
la capacité de ressentir.

2254
01:36:49,020 --> 01:36:50,979
-[bavardage de mission indistinct]
-[applaudissements]

2255
01:36:51,022 --> 01:36:53,938
Nous devons doubler la mise
de plus en plus

2256
01:36:53,982 --> 01:36:57,028
sur ces capacités
que nous avons en tant qu'humains

2257
01:36:57,072 --> 01:37:00,118
que les systèmes robotiques
je ne l'aurai jamais fait.

2258
01:37:00,162 --> 01:37:04,296
Il est temps maintenant
prendre ces décisions concernant

2259
01:37:04,340 --> 01:37:07,473
comment le guider et le soutenir
plutôt que de nous diviser.

2260
01:37:07,517 --> 01:37:10,259
DANIEL : On dirait que
élever un enfant.

2261
01:37:10,302 --> 01:37:12,435
Voilà ce qui se passe. Ouais.

2262
01:37:12,478 --> 01:37:14,480
CAROLINE : L'IA a peut-être
plus d'intelligence brute

2263
01:37:14,524 --> 01:37:17,222
-que notre petit cerveau humain,
-[bébé rit]

2264
01:37:17,266 --> 01:37:21,052
mais nous sommes bien plus
que notre intelligence.

2265
01:37:21,096 --> 01:37:25,056
L'intelligence est-est
la capacité de résoudre des problèmes.

2266
01:37:25,100 --> 01:37:28,320
La sagesse est la capacité de savoir
quels problèmes résoudre.

2267
01:37:30,932 --> 01:37:33,717
[bavardage indistinct de l'équipage]

2268
01:37:33,760 --> 01:37:34,892
DANIEL :
Cela peut aller sur votre réfrigérateur.

2269
01:37:34,936 --> 01:37:36,198
[riant]

2270
01:37:36,241 --> 01:37:38,113
IOUDKOWSKI :
Alors, n'abandonnez pas.

2271
01:37:38,156 --> 01:37:39,766
L'humanité a fait

2272
01:37:39,810 --> 01:37:42,160
des choses plus difficiles que ça
dans son histoire.

2273
01:37:43,553 --> 01:37:46,338
C'est juste difficile à convaincre
les gens qu'ils devraient.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[le son crépite]

2276
01:37:54,912 --> 01:37:56,827
DANIEL : Alors, quand j'ai commencé
faire ce film,

2277
01:37:56,871 --> 01:37:58,437
Je dirais que j'étais comme,

2278
01:37:58,481 --> 01:38:00,918
en gros, un connard cynique
à propos de tout ça.

2279
01:38:00,962 --> 01:38:03,094
Au cours du cours
de faire le film,

2280
01:38:03,138 --> 01:38:04,661
j'ai fini par comprendre
ça, comme,

2281
01:38:04,704 --> 01:38:07,446
c'est la seule chose
nous ne pouvons pas l'être.

2282
01:38:07,490 --> 01:38:09,361
... ou autre chose
tu aimerais discuter ?

2283
01:38:09,405 --> 01:38:11,363
Non, je pense que nous avons couvert beaucoup de choses.

2284
01:38:11,407 --> 01:38:13,017
-Ouais. [rires]
-HOMME : Merci beaucoup.

2285
01:38:13,061 --> 01:38:15,498
Merci.

2286
01:38:15,541 --> 01:38:16,891
DANIEL :
C'est un problème plus grave

2287
01:38:16,934 --> 01:38:19,067
que n’importe quelle personne.

2288
01:38:19,110 --> 01:38:21,547
Cela changera le monde en
des façons que nous ne comprenons pas.

2289
01:38:21,591 --> 01:38:23,462
Tout cela est vrai.

2290
01:38:23,506 --> 01:38:25,551
-[rires] : D’accord.
-[bavardage indistinct]

2291
01:38:25,595 --> 01:38:27,684
DANIEL :
Mais ce sur quoi nous avons du pouvoir

2292
01:38:27,727 --> 01:38:30,078
c'est ce que nous faisons à ce sujet.

2293
01:38:30,121 --> 01:38:32,558
À mesure que l’IA des frontières se développe
exponentiellement plus performant...

2294
01:38:32,602 --> 01:38:34,430
DANIEL :
Et la réalité

2295
01:38:34,473 --> 01:38:36,562
c'est que si nous décidons
c'est désespéré,

2296
01:38:36,606 --> 01:38:39,000
alors c'est sans espoir.

2297
01:38:39,043 --> 01:38:40,740
...pour moins stresser
sur la planète Terre...

2298
01:38:40,784 --> 01:38:42,742
DANIEL :
Mais si tu décides

2299
01:38:42,786 --> 01:38:45,528
que tu veux essayer...

2300
01:38:46,790 --> 01:38:48,096
... alors tu essaies.

2301
01:38:48,139 --> 01:38:49,967
Et c'est dur.

2302
01:38:51,273 --> 01:38:53,188
Mais tu sais quoi ?

2303
01:38:53,231 --> 01:38:56,278
Les grandes choses semblent impossibles
avant qu’ils ne se produisent réellement.

2304
01:38:58,149 --> 01:39:01,413
Mais quand ils arrivent enfin,

2305
01:39:01,457 --> 01:39:05,243
c'est parce que des millions de personnes
a pris des millions d'actions

2306
01:39:05,287 --> 01:39:07,550
pour les réaliser.

2307
01:39:07,593 --> 01:39:10,292
Et donc...

2308
01:39:10,335 --> 01:39:12,424
nous devons essayer.

2309
01:39:13,469 --> 01:39:14,905
[soupire lourdement]

2310
01:39:21,129 --> 01:39:23,522
Il y a trop de choses en jeu.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[le film crépite]

2313
01:39:37,232 --> 01:39:41,236
Regardez les changements incroyables
nous avons vécu et survécu

2314
01:39:41,279 --> 01:39:42,846
de l'âge de pierre,

2315
01:39:42,889 --> 01:39:46,110
et pourtant des changements encore plus importants
sont encore à venir.

2316
01:39:46,154 --> 01:39:49,157
["Je l'ai perdu en essayant"
par Son Lux en train de jouer]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ Qu'allons-nous faire maintenant ? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ Nous l'avons perdu à force d'essayer ♪

2320
01:40:53,264 --> 01:40:55,092
♪ Nous l'avons perdu ♪

2321
01:40:55,136 --> 01:40:56,746
♪ Pour essayer ♪

2322
01:40:59,575 --> 01:41:02,230
♪ Qu'allons-nous faire maintenant ? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ Nous l'avons perdu à force d'essayer ♪

2324
01:41:05,233 --> 01:41:06,973
♪ Nous l'avons perdu ♪

2325
01:41:07,017 --> 01:41:08,714
♪ Pour essayer ♪

2326
01:41:11,630 --> 01:41:14,111
♪ Que pouvons-nous dire maintenant ? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ Nos bouches ne font que mentir ♪

2328
01:41:17,245 --> 01:41:18,637
♪ Nos bouches ♪

2329
01:41:18,681 --> 01:41:20,683
♪ Seulement mentir ♪

2330
01:41:25,122 --> 01:41:27,690
♪ Que pouvons-nous dire maintenant ? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ Nos bouches ne font que mentir ♪

2332
01:41:30,867 --> 01:41:32,216
♪ Nos bouches ♪

2333
01:41:32,260 --> 01:41:34,218
♪ Seulement mentir ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ Cédez et sortez ♪

2336
01:42:03,769 --> 01:42:06,685
♪ Nous ressuscitons parmi les mourants ♪

2337
01:42:06,729 --> 01:42:08,209
♪ On se lève ♪

2338
01:42:08,252 --> 01:42:10,211
♪ Chez les mourants ♪

2339
01:42:13,127 --> 01:42:15,781
♪ Cédez et sortez ♪

2340
01:42:15,825 --> 01:42:18,654
♪ Nous ressuscitons parmi les mourants ♪

2341
01:42:18,697 --> 01:42:20,221
♪ On se lève ♪

2342
01:42:20,264 --> 01:42:22,223
♪ Chez les mourants ♪

2343
01:42:25,051 --> 01:42:27,663
♪ Cédez et sortez ♪

2344
01:42:27,706 --> 01:42:30,666
♪ Nous ressuscitons parmi les mourants ♪

2345
01:42:30,709 --> 01:42:32,233
♪ On se lève ♪

2346
01:42:32,276 --> 01:42:34,148
♪ Chez les mourants ♪

2347
01:42:37,107 --> 01:42:39,718
♪ Cédez et sortez ♪

2348
01:42:39,762 --> 01:42:42,591
♪ Nous ressuscitons parmi les mourants ♪

2349
01:42:42,634 --> 01:42:43,809
♪ Nous ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ Oh, oh, oh, oh, oh ♪

2353
01:43:25,329 --> 01:43:26,983
♪ Oh, oh, oh, oh ♪

2354
01:43:27,026 --> 01:43:28,419
♪ Oh, oh ♪

2355
01:43:28,463 --> 01:43:31,379
♪ Oh, oh, oh, oh, oh, oh ♪

2356
01:43:31,422 --> 01:43:32,945
♪ Oh, oh, oh, oh ♪

2357
01:43:32,989 --> 01:43:34,382
♪ Oh, oh ♪

2358
01:43:34,425 --> 01:43:37,036
♪ Oh, oh, oh, oh, oh, oh ♪

2359
01:43:37,080 --> 01:43:39,648
♪ Qu'allons-nous faire maintenant ? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ Nous l'avons perdu à force d'essayer ♪

2361
01:43:42,694 --> 01:43:44,566
♪ Nous l'avons perdu ♪

2362
01:43:44,609 --> 01:43:46,307
♪ Pour essayer ♪

2363
01:43:46,350 --> 01:43:49,005
♪ Oh, oh, oh, oh, oh, oh ♪

2364
01:43:49,048 --> 01:43:51,703
♪ Qu'allons-nous faire maintenant ? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ Nous l'avons perdu à force d'essayer ♪

2366
01:43:54,750 --> 01:43:56,578
♪ Nous l'avons perdu ♪

2367
01:43:56,621 --> 01:43:58,406
♪ D'essayer. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[la chanson se termine]